米国の非営利団体Future of Life Instituteは2023年3月、OpneAIの「ChatGPT4」を超えるようなAIシステムを少なくとも半年間、開発しないよう求める署名活動を開始しました。
Future of Life Instituteによると、「ChatGPT4」のようなAI技術は人類史上に大きな変化を及ぼす可能性があるにも関わらず、十分な議論が為されないまま開発だけが先行している状態と言及。さらに現状ですら人間に匹敵する能力を持つAIが、やがて世界に溢れ、文明のコントロールを犯すリスクを容認すべきか、また、こうした変化を選挙で選ばれたわけでもない一部の技術者の手に委ねる事について問題を発議しています。
Future of Life Instituteは今回の問題を議論するため、開発元、すなわちAI側の人間に半年間、「ChatGPT4」を超えるようなAIの開発を中止するよう求めています。Future of Life Instituteの主張にはテスラのイーロン・マスク氏やAppleの共同創業者スティーブ・ウォズニアック氏も署名したほか、日本の著名研究者も署名を発表。
ただし、MicrosoftやOpenAIなどAI開発を強力に進めている組織の重要人物からの署名は確認されていません。
参照Pause Giant AI Experiments: An Open Letter
参照「対話式AI」 開発中断求め署名活動開始 日本の研究者も賛同