1898年8月24日，俄罗斯外交部长穆拉约夫伯爵在圣彼得堡外交部的每周招待会上交给欧洲各国外交代表一份沙皇尼古拉二世的敕令，建议各国召开正式会议，为了人类普遍的福祉停止军备竞赛。第二年这场会议正式召开，由此建立了最早的国际法庭。
1899年第一次海牙和平会议缔结了《和平解决国际争端公约》（1899年海牙第1公约），决定在会议召开地海牙设立常设仲裁法院（Permanent Court of Arbitration，缩写：PCA）。与后来的常设国际法院和国际法院不同，常设仲裁法院不是一个单纯国家之间的法庭，对于外部世界而言它的存在感一直不高。常设仲裁法院案件极少，成立123年来共接受105起仲裁请求。它的庭审很少对公众公开，裁决书应仲裁双方的要求而保密，做出的裁决又缺乏强制执行力。它最近一次受到关注是因为2016年的南海仲裁案（Philippines v. China (PCA case number 2013–19)）。正因这些不足的存在，不少人呼吁设立一个常设公开的国际法庭，《凡尔赛条约》为这个主张提供了机会。
在《凡尔赛条约》之后制定的《国际联盟盟约》第十四条中授权国际联盟设立常设国际法院（Permanent Court of International Justice，缩写：PCIJ），它位于海牙。比起常设仲裁法院，常设国际法院更有效率，1922年至1940年间共审理了29起案件，发表了27份单独的咨询意见。随着二战的爆发，德国入侵荷兰后这个机构无法正常运行。二战后常设国际法院的法官于1945年10月正式辞职，该法院于1946年解散。
二战后国际联盟和常设国际法院分别被联合国和国际法院取代。阐明其宗旨和结构的《国际法院规约》在很大程度上借鉴了前任的规约，确保其裁决仍然有效。联合国所有成员国都是《国际法院规约》的缔约国，可以提起诉讼；但咨询程序只能由某些联合国机关和机构提交。《联合国宪章》第十四章授权联合国安理会执行法院的裁决。这种执行受到安理会五个常任理事国的否决权的杯葛，而与所有的国际裁决机构一样，国际法院的执行能力一直存在较大问题，在涉及常任理事国时这一短板更为明显。上世纪八十年代，美国在尼加拉瓜共和国诉美利坚合众国(The Republic of Nicaragua v. The United States of America (1986))案中就使用了否决权。本次如无意外，俄罗斯也将使用否决权。自1950年代以来，国际法院仅在六项裁决中要求赔偿损失，其中有三项被被告直接忽略。