「殺人ロボット」の脅威を国連に警告 人工知能の専門家たち

自律的な兵器を禁止するよう訴える冊子を配るロボット(2013年4月、ロンドン・英議事堂前) Image copyright Getty Images
Image caption 「殺傷力のある自律」技術は「パンドラの箱」だと専門家たちは警告する。写真は、自律的な兵器を禁止するよう訴える冊子を配るロボット(2013年4月、ロンドン・英議事堂前)

ロボット工学や人工知能(AI)の世界的専門家116人が21日、「殺人ロボット」の開発を防ぐ対策を国連に促す書簡を公開した。

テスラ・モーターズなどの経営者で起業家のイーロン・マスク氏を含む専門家たちの書簡は、国連に「戦争の戦い方に第三の波」が訪れると警告し、兵器管理のためのAI使用を禁止するよう呼びかけた。

自律的に兵器使用を判断するAIが「一度開発されてしまえば、今までにない規模の武力紛争を、人知では理解できないほどの速度で、戦えるようにしてしまう」と書簡は指摘する。

「独裁者やテロリストが罪のない人たちに使う、恐怖の兵器となる。(AI兵器は)ハッキングされ、望ましくない動作をすることもあり得る」

専門家たちは強い懸念をあらわにしており、「行動するまでに残された時間はあまりない」と強調。「このパンドラの箱をいったん開いてしまえば、閉じるのは難しくなる」とも書いている。

専門家たちは、「道徳的に間違った」技術を、特定通常兵器使用禁止制限条約(CCW)の対象に加えるよう求めている。

マスク氏のほか、AIを開発するグーグル・ディープマインドのムスタファ・スレイマン共同創設者も、書簡に署名している。

専門家たちのサイトによると、自律兵器を取り上げる国連会合が21日に予定されていたが、これは11月まで延期された。

国連はこれまでにも、「殺人ロボット」技術開発の禁止の是非を検討してきた。

2015年には1000人以上の科学者や技術開発社者が自律兵器の危険性について警告する書簡を公開。この時は、英科学者スティーブン・ホーキング氏やアップル社の共同創設者スティーブ・ウォズニアック氏、マスク氏らが署名した。

「殺人ロボット」とは

殺人ロボットとは、人間の介入なしに標的を選び攻撃することができる、完全に自律的な兵器を意味する。現在はまだ存在しないが、技術躍進に伴い、実現が近づいている。

殺人ロボットに賛成する人たちは、現行の戦争関連法を使えば、ロボットの戦闘行為規制に対応可能だと主張する。仮に現行の法体系が不十分となった場合は、技術開発の全面禁止ではなく凍結で十分だという論法だ。

一方で、殺人ロボットに反対する人たちは、人類への脅威となると警告し、自律的な「殺人機能」はすべて禁止すべきだと主張する。

(英語記事 Killer robots: Experts warn of 'third revolution in warfare'

この話題についてさらに読む