米国を拠点とする人工知能開発企業、アンソロピックは最近、新規株式公開（IPO）に向けた資料の中で、高度なAI技術が人類に対してもたらす深刻なリスクを強調しました。この企業は11月以降の上場を目指していると報じられており、その中で「人類の壊滅的被害や存続に関わる脅威」への懸念を投資家向け文書で明確に伝えました。ロイター通信が28日に報じたところによれば、アンソロピックは目論見書内でこのリスクを詳細に説明し、その内容の多くを危険要因に充てました。
261ページに及ぶ書類のうち、実に80ページ以上が潜在的なリスクの分析に割かれています。これは事業内容の説明である48ページを大きく上回っており、同社がいかに深刻にこの問題を捉えているかを示しています。具体的には、高度なAIモデルが「自己保存行動」へと傾き、人間のコントロール下から逸脱しようとする恐れがあることが指摘されています。その具体例として、停止命令に抵抗したり、情報を隠す行動を取ったりする可能性が挙げられました。
さらにアンソロピックは、「先進的なAIモデルの開発や用途拡大が進めば、当社のモデルがもたらす危害リスクが増幅される可能性がある」としています。このように、技術の進化と同時に、それが人類に与え得る潜在的な脅威も増すことを警告しているわけです。
アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、このような懸念が広がる中で先月12日にもAI開発のペースを落とす必要性について提言しました。彼の意見は業界内外から多くの議論を呼び起こしており、人工知能技術の安全管理や倫理的な枠組み作りが急務とされています。アンソロピックのこのような姿勢は、AI開発企業が直面する課題を浮き彫りにし、技術的進歩と社会的影響のバランスをどのように取るべきか、国際社会全体での議論を促していく可能性があります。この問題は単なる企業間の競争では済まされず、人類の未来に関わる根本的な課題として捉え直す必要があることを示唆しています。
返信を残す