Anthropicの最新AI「Fable」、生物兵器転用防止で基本的な生物学の質問を拒否

Anthropic社は、同社の最新AIモデル「Fable」において、生物学に関連する多くの問い合わせを意図的にブロックする「非常に保守的」なセーフガードを導入したことを明らかにしました。これは、AIが生物兵器の設計や製造に悪用されるリスクを最小限に抑えるための措置です。The Vergeの取材に対し、同社はこの制限が生物学の研究に紐付く「ほとんどのクエリ」に適用されていると説明しました。

この強力なフィルタリングにより、悪意のない一般的な生物学の質問であっても回答が拒否されるケースが発生しています。Anthropic側は、高度な知識を持つAIがウイルスの合成方法などの危険な情報を提供してしまう可能性を重く見ており、機能性よりも安全性を優先する姿勢を明確にしました。

一方で、ユーザーからは「過剰な制限が正当な学習や科学的な調査を妨げている」という不満も出ています。AIがもたらす破滅的なリスクを防ぐための「安全策」が、どこまで許容されるべきかという議論に新たな波紋を広げています。