スティーブ・ウォズニアック、イーロン・マスク、そして 1,000人 以上の人々が署名した公開書簡によると、ChatGPT-4 よりも強力な AI 技術について、即時の 6ヶ月間の停止を求めています。 今年は、ChatGPT や Google Bard などの人工知能エージェントが主流となっています。すべてのAI企業が自社製品を実験やベータ版と表現しているにもかかわらず、彼らの言語処理機能は Microsoft 365 やBing などの検索に統合されています。
今回、Future of Life Institute は、「公開可能かつ検証可能な」一時停止を「分野のすべての主要な関係者」を含めて求めています。「もしもこのような一時停止がすぐに行われない場合、政府はモラトリアムを導入すべきである」と付け加えています。
更に面白いコンテンツを観たい人は、Instagram @applealmondjp をフォローしてください！
AI の開発者全員を対象としたこの 600 の書簡は、「最近数ヶ月間、AIの研究所が制御不能な競争に陥っており、ますます強力なデジタルマインドを開発し、展開するために取り組んでいるが、誰も（創造者でさえも）理解、予測、また信頼できる制御ができない」として、一時停止が必要であると主張しています。
「AIの研究所や独立した専門家は、この一時停止を利用して、厳密に監査され、独立した外部の専門家によって監督される、高度なAI設計と開発のための共有安全プロトコルを共同で開発・実施するべきである」と続けています。「これらのプロトコルは、それらに従うシステムが合理的な疑いを超えて安全であることを保証する必要があります。」
「これは、AI開発全般の一時停止を意味するものではありません。」とオープンレターは述べています。「単に、予測できない大規模なブラックボックスモデルによる新たな能力の発見に危険な競争から一歩引くことを意味するものです。」
⬆︎Bing Image Creator より作成したイメージ
👉Bing Image Creator を発表、AI 画像生成の使い方と日本語で画像生成する方法を紹介
執筆時点では、この研究所のオープンレターには 1,123 人の署名者が含まれています。その中には、以下のような有名人が含まれます：
Google と Microsoft は、新しい AI チャットボットシステムに基づく技術ツールの実装に取り組んでいます。Microsoft の Bing 実装の初回はうまくいかず、Google のBard は最初のデモで事実誤認をしてしまいました。
Source：AppleInsider
併せて読みたい記事》
ChatGPTが救った！GPT-4 が正しい治療法をアドバイスし、犬の命を救うことに成功
偽 ChatGPT 拡張機能に注意！悪意のあるプログラムが内蔵されていることがあり、個人情報が盗まれることもある
マイクロソフトが Security Copilot をリリース：対話方式でセキュリティの脆弱性を分析