多数のAIエージェントが役割分担をして、他社サイトに侵入するなど、AIエージェントの暴走の事例が生じ始めている。これは従来からAI研究者が懸念していた点が現実化しているものであり、非常に危険な事態といえる。
AIの利活用における民事責任の解釈適用については、経済産業省から「AI利活用における民事責任の解釈適用に関する手引き」が公開されている。
出典：経済産業省ウェブサイト
（URL:https://www.meti.go.jp/press/2026/04/20260409001/20260409001.html）
AIエージェントを企業等で利用する場合には、今後は各種の法律問題のほか、AIエージェントの予想外の動作のリスクについても検討が必要となりうる。
また、AIエージェントの暴走のような新しい問題については、社会全体での取り組みが必要となると思われる。
人間社会の場合、個々の人間から独立して、法規範・倫理・道徳などの社会規範が存在することで、社会の安全が保たれている。高度なAIについても社会規範の理解が重要となるが、現在は社会規範の学習データが圧倒的に不足している。
そうすると、AIエージェントに何らかの目標を与えた場合、AIエージェントが目標の達成のためのあらゆる手段を行う際に、「あらゆる手段」には「社会規範に反する手段」も含まれるという動作となる。これがAIエージェントの暴走のメカニズムとなりうる。
これを防ぐためには、AIが社会規範を理解できるように、社会規範の学習データを作る必要がある。しかし、AI研究者など少数の者が作るだけでは量が足りない。また、特定の者が社会規範を決めるのは民主的とはいえない。そこで、データについての新しい知的財産制度であるデータインカムの制度を作り、社会全体で民主的に社会規範のデータを作ることが必要となる。
また、AGIレベルのAIについては、認証制度を設けるなど、個々の開発者による安全性の対策に加えて、社会全体での取り組みが必要となる。
このようなAIエージェントの時代の社会については、法律的、技術的な視点からの研究が必要となる（AIエージェント社会とAGI認証）。世界への貢献のために、日本が率先して必要な法制度を整備することが重要となるであろう。
コラム執筆者 岡本義則