画像はイメージです
米国の会社、オープンAIは、人工知能（AI）の安全性とセキュリティーを評価する新しい委員会を作りました。これは、会社の管理方法に変更を加える動きです。実は、オープンAIでは最近、この分野を担当していた重要な幹部が退社し、関連するチームも解散していました。
90日間の評価と報告書
新しく設置された委員会は、今後90日間かけてAI技術の安全対策を評価し、その結果を報告書にまとめます。オープンAIは28日のブログで、「取締役会の審査に基づき、安全性とセキュリティーに矛盾しない方法で採択された勧告の最新情報を公表する」と発表しました。つまり、取締役会が委員会の評価を検討し、その結果に基づいて安全対策を公表する予定です。
AIの急速な進歩と懸念
オープンAIの技術は急速に進歩しており、それが原因でAIが持つ潜在的な危険性をどう管理するかについての懸念が高まっています。最近、共同創設者でチーフサイエンティストのイリヤ・サツキーバー氏と、主要な副幹部だったヤン・ライカ氏が退社しました。この二人は、オープンAIで「スーパーアライメントチーム」という高性能AIの長期的な脅威に焦点を当てたチームを率いていました。この二人の退社は、さらに懸念を強める結果となりました。
スーパーアライメントチームの解散
サツキーバー氏が退社した後、オープンAIは彼が率いていたチームを解散しました。昨年、サム・アルトマン氏がCEOに復帰した後で取締役を辞任したヘレン・トナー氏とターシャ・マコーリー氏は、最近、英誌エコノミストへの寄稿でアルトマン氏のリーダーシップを批判しました。彼らは、サツキーバー氏やその他の安全担当者の退社が「オープンAIのセルフガバナンスを試す上では悪い兆候だ」と指摘しました。
元従業員の批判と会社の対応
オープンAIの広報担当者は、元従業員からの批判を認識しており、さらに多くの批判があることも予想していると述べました。また、同社はこれらの懸念事項に対処するために取り組んでいると続けました。オープンAIは、安全性とセキュリティーに関する批判を真剣に受け止め、それに応じて適切な対策を講じることを約束しています。
まとめ
オープンAIは、AIの安全性とセキュリティーを確保するために新しい委員会を設立しました。この委員会は90日間かけて技術の安全対策を評価し、その結果を報告書にまとめます。会社はこれを基に、安全対策を公表する予定です。しかし、最近の幹部の退社やチームの解散により、会社のガバナンスに対する懸念が高まっています。元従業員からの批判もあり、オープンAIはこれらの問題に対処することが求められています。
"本記事はブルームバーグの記事を元に要約しました。詳細は（元記事のhttps://www.bloomberg.co.jp/news/articles/2024-05-28/SE6ZSYT1UM0W00）で確認できます。筆者の見解が含まれているため、原文と異なる場合があります。"
