与中国不同的是，虽然日本国宪法明确规定：“日本国缔结的条约及已确立的国际法规范，必须诚实遵守之”。（第98条）但在国内法秩序中，日本却将宪法至于优先的地位，即所谓的“宪法优先论”。他们认为，条约虽然是国际法的主要渊源，但在缔结条约时，全权代表是由内阁任命的，内阁的这种权限又受到“外务公务员法”、“内阁法”更进一步说是受“宪法”制约的。内阁批准条约的权限、国会承认条约的权限、天皇认证条约的权限，都是基于宪法而生产的。因此可以说，条约来源于宪法。再说，宪法的修订，必须经过众参两院全体议员2/3以上的赞成，并经国民承认（国民半数以上赞同）才可进行。（参见宪法第96条）而缔结条约时的国会承认，只要众参两院各有1/3以上议员出席，半数以上议员赞同即可。这样轻而易举就可得到承认的条约，其效力自然不能与必须经过慎重修正程序的宪法相比。此所谓“一元论”中的“国内法优先说”。
其次，日本认为，国际法只是国家的义务，如果国家违反了国际法，就承担国际不法行为和国际责任。但国际法不能直接约束个人，国家只有依据国际法（国际条约）的内容，制定个人应承担义务的法律，才能在国内实施，这就是国际法规范的国内化。如果没有这种国内化程序，国际法只是在国际社会层面对国家课以义务，而在国内社会层面，依然是与国际法无关系的国内法对个人课以义务。例如，根据《新日美安保条约》及《新美军地位协定》，凡日本政府同意美军使用的区域，若属国有地，美军则可以直接使用，若属私有地，则美军不能直接使用。这就是说，日本政府只是从国际法上承认了美军使用这一区域的权利，但从国内法上，并没有对该土地的所有者课以允许美军使用这块土地的义务。只有在日本国会为此专门制定了《特别措施法》以后，这个问题才顺利解决。从这个意义上说，日本坚持的是“二元论”，国内法在国内有效，国际法在国际社会有效。
当然，日本也不是绝对坚持“一元论”中的“国内法优先说”。在一定的条件下，他们也承认“一元论”中的“国际法优先说”。一方面，日本也承认“自动执行条约或条款”，而且日本也积极进行国际条约义务的国内转化；另一方面他们也承认当国际条约与本国国内法生产抵触时，优先适用条约。他们的解释是：宪法规定的“日本国缔结的条约及已确立的国际法规范，必须诚实遵守之”，虽不能解释为“条约优于宪法”，但至少可以说，只要是已确立的国际法规范、已缔结的有效条约，立法机关就应据此制定相关的国内法；行政机关的实施国政的时候，就应该尽量与之一致；司法机关在裁判的时候，就应该承认其法规性；作为国民，亦应诚心诚意去遵守它。前面从通过手续上比较了宪法与条约的优劣，其实，全权委员也好，阁僚、国会议员也好，他们均负有遵守宪法的义务，在条约起草、签署、批准、承认时，他们就应该判断条约的内容是否违宪，如果一定要缔结违反宪法的条约，那也得先改定宪法的有关内容，再缔结条约。
总之，不能简单地说，日本在国际法与国内法的关系上，支持哪一种理论，哪一种学说。不管是在立法上，还是实践上，日本也是具体问题，具体对待。时而倾向“一元论”，时而倾向“二元论”，时而主张“国内法优先说”，时而主张“国际法优先说”。从这点来说，这到符合日本外交中“实用主义”的传统。