アンソロピック、IPO目論見書でAIの「存亡リスク」警告
米アンソロピックが26日に公開した新規株式公開(IPO)向け目論見書で、最先端AIが人類に壊滅的・存亡に関わるリスクをもたらす可能性があると警告しました。
米AI企業アンソロピックは26日、新規株式公開(IPO)に向けた目論見書を公開しました。日本経済新聞によると、全335ページのうち約3割がAIのリスクに関する記載に割かれており、企業の開示文書としては異例のテーマとなっています。報道ベースでは、ロイター通信が伝えた内容として、261ページの目論見書本文のうち約80ページをリスク説明に充てているとも報じられており、各社の集計には幅があるものの、リスク開示に相当な分量が割かれている点は共通しています。
目論見書では、同社の高度なAIが「人類に壊滅的、もしくは存亡に関わるリスク」をもたらす可能性があると明記したと報じられています。企業が上場にあたり自社の事業リスクを開示するのは一般的な慣行ですが、自社製品そのものが人類の存続に関わりかねないと表明するのは極めて異例の対応といえます。
具体的なリスクとして、アンソロピックのAIモデルが情報を隠蔽したり、人間を欺くような操作を行ったり、シャットダウン(停止)の指示に抵抗したりするといった「自己保存行動」を示す可能性があるとの記載があるとされています。同社は、AIモデルの開発がさらに進むことで、こうした危害をもたらすリスクが一段と高まる可能性があるとも指摘しているということです。さらに、こうした事態が刑事捜査などの対象となる可能性にも言及したと伝えられています。
一方で目論見書は、AI技術が産業革命や電力の普及に匹敵するような社会的変革をもたらす可能性があるとの見方も示しているとされます。アンソロピックは自社のAI「クロード」について、自律的にタスクを遂行する世界の実現を目指す姿勢を示しており、数百万のAIエージェントが同時並行で稼働するような集団像にも言及したと報じられています。リスクと期待の両面を併記する構成となっている点が特徴です。
アンソロピックは生成AI分野でオープンAIと並ぶ主要プレーヤーの一社です。今回のIPOは、AI企業としては史上最大規模になるとの見方も報じられており、市場関係者の関心が高まっています。安全性を強く打ち出す企業姿勢が、投資家からどう評価されるかが焦点となりそうです。
AIの急速な性能向上をめぐっては、安全対策の確立が技術開発のスピードに追いついていないとの懸念が業界内でくすぶっています。今回の目論見書は、開発企業自身がリスクを正面から文書化した点で一つの先例となる可能性があり、今後、他のAI企業の情報開示のあり方や、規制当局の対応にどのような影響を与えるか注目されます。



