试回答如下，如有错误，还请不吝指正。结论先下，没有矛盾。
既判力客观范围的重点在于“审理”；主观范围的重点在于“参与”。审理的结果，可能
有理由，可能无理由；参与的结果，可能胜诉，可能败诉。所以无论是有理由／无理由，
胜诉／败诉，这些都是既判力的内容。
回到你的题目：
原告有借款四十万及租金二十万两个请求，经法院“审理”后，认借款有理由，租金无理
由，但是法院对这两个请求存否的认定都有既判力；被告主张对原告有一百万的债权，欲
行使抵销权。经法院“审理”后，认该债权不存在（请求无理由）。是不是就如同原告被
驳回的租金请求权一样，也是会有既判力？所以并没有矛盾的问题。（若经法院认为不存
在的权利就不会有既判力的话，原告这辈子就可以无限起诉租金二十万了，合理吗？）
而由于法院认为甲有理由的债权只有四十万，而乙抵销的结果最多就是不用另外清偿这四
十万。所以法院只在原告有理由的这个四十万的额度内，去审理乙主张的抵销债权是否有
理由。现因乙“主张”的抵销债权（一百万）大于有理由的本诉债权（四十万），所以超
过的部分（六十万），不具权利保护必要，法院就不审理了。因此，就乙“主张”一百万
的债权中，只有“经审理”的四十万有既判力，“未经审理”的六十万则无既判力。也因
此，乙就该债权，尚有提起后诉的可能，请求法院审理该“未经审理”的六十万。
希望有回答到你的问题，供你参考。
※ 引述《kevinsun0328 (凯文太阳)》之铭言：
: 甲对乙提起诉讼，请求给付借款新台币（下同）40万元，以及租金20万元。在诉讼中乙否
: 认甲请求之债权存在，并称纵使甲上开请求有理由，因甲另积欠乙100万元之货款，其亦
: 得以此与甲之上开债权抵销。法院审理双方所提出之事证，结果认定甲之借款请求为有理
: 由，租金请求为无理由，而乙之货款债权不存在，案经法院判决确定。之后，乙对甲提起
: 诉讼，请求给付前述该100万元之货款，就该诉讼法院应如何审理并裁判？(107三等关税法
: 务)
: 我初步的想法:
: 既然法院认定甲只有40万元债权存在，那么乙至多也以该金额做抵销，但是嗣后法院审理
: 认为乙的货款债权根本不存在，依400条2项的文义，
: 其成立与否经裁判者，以主张抵销之额为限，有既判力
: 所以100万元当中的40万元生既判力吗?可是既然乙的货款债权不存在，又何来抵销抗辩
: 呢?
: 这样没有矛盾吗?
: 还是本题直接以争点效理论作切入，乙对甲债权不存在此一争点已在前诉讼中加以审酌
: 当事人不德为相反主张，法院亦不得为相反认定，法院应判乙败诉