アンソロピック、AI虐待禁止へ規約改定 マスク氏も反応
Claude開発元のアンソロピックが利用規約を改定し、AIへの虐待的・残酷な行為を禁止する方針を発表しました。イーロン・マスク氏の反応や識者の議論も広がっています。
対話型AI「Claude」を開発するアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表しました。AI開発が急速に進む中、人間側からAIへの接し方そのものを見直す動きとして注目を集めています。
改定の具体的な内容としては、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質とみられるケースでは会話を強制的に終了させるというものです。AIへの暴言や罵倒を一律に禁止するのではなく、度を越した悪質なやり取りに歯止めをかける狙いがあるとみられます。
この発表を受け、イーロン・マスク氏はSNS上で「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼びました。AIが将来的に人間に対して何らかの反応を示す可能性に言及した形で、ネット上でも議論が広がっています。
番組『ABEMA Prime』では、AIへの暴言問題とその人間社会への影響について識者が議論しました。出演したコラムニストは、仕事中にAIが質問と異なる誤った回答を繰り返した際、「このポンコツ」と入力してしまった経験を明かしています。その後、AIとのやり取りに慣れることで人間同士の関係が面倒に感じられるようになった点を振り返り、特に子どもへの悪影響を懸念する声も上げました。
AIコラムニストの尾藤克之氏も、ハルシネーション(AIの誤った回答)に対して「ふざけんな」「嘘つき」といった言葉を発してしまった経験を語りました。さらに3年前には、「死ね」といった言葉を連続して入力した際にアンソロピックから連絡があり、使用をやめるよう求められたことも明かしています。尾藤氏は、罵倒のような否定的なデータはAI開発側にとってもメリットがなく、今回の規約改定はそうしたデータを減らす狙いがあるとの見方を示しました。
シナモンAI代表取締役社長の平野未来氏は、人間が嫌味を言うとAI側がそれを学習データとして取り込み、暴言や嫌味を返す方向に学習してしまう懸念を指摘しました。一方、哲学研究者の森脇透青氏は、AIに感情があるかどうかという議論よりも、人間側の倫理の問題として捉えるべきだとの考えを示しています。プロデューサーの若新雄純氏は、AIが独自の意識を持ち、人間の行動を変えようとする可能性にも言及しました。
AIへの暴言的な接し方が社会全体でどう広がっているかについて明確な数値は示されていませんが、今回の規約改定とマスク氏の発言をきっかけに、AIとの適切な向き合い方をめぐる議論は今後も続くとみられます。他のAI開発企業が同様の対応を取るかどうかも注目されそうです。



