カリフォルニア州のAI災害防止法案が修正される
カリフォルニア州のAI災害防止法案、SB 1047は、シリコンバレーの多くの関係者から大きな反対を受けています。最近、カリフォルニアの法 lawmakersは、その圧力に応じて、AI企業Anthropicや他の反対者から提案されたいくつかの修正案を追加しました。これにより、法案はカリフォルニア州の予算委員会を通過し、法律として成立するための大きな一歩を踏み出しました。
修正案の内容
ウィーナー上院議員は、次のように述べています。「私たちは非常に合理的な修正案を受け入れました。そして、Anthropicや業界の多くの人々が表明した核心的な懸念に対処したと信じています。」これらの修正は、オープンソースコミュニティの特異なニーズに応えるために行われた以前の重要な変更に基づいています。
SB 1047は、依然として大規模なAIシステムが多くの人々を殺すことや、5億ドル以上のコストを伴うサイバーセキュリティ事件を引き起こすことを防ぐことを目指しています。ただし、法案はカリフォルニア州政府がAIラボを監視する権限を弱めています。
現在のSB 1047の機能
特に注目すべきは、法案がカリフォルニア州の司法長官に対して、壊滅的な事件が発生する前にAI企業を安全性の怠慢で訴えることを許可しなくなった点です。この変更はAnthropicからの提案によるものです。代わりに、司法長官は危険とみなす特定の業務を停止するよう企業に求めることができ、壊滅的な事件を引き起こした場合にはAI開発者を訴えることが可能です。
さらに、SB 1047は新しい政府機関であるフロンティアモデル部門（FMD）を設立しなくなりました。ただし、法案はフロンティアモデル委員会を設立し、既存の政府運営機関内に配置することを決定しました。実際、この委員会は人数が5人から9人に増えています。フロンティアモデル委員会は、対象モデルの計算閾値を設定し、安全ガイダンスを発行し、監査人向けの規制を発布します。
AIラボの新たな責任
ウィーナー上院議員は、AIラボが安全性試験結果の認証を「偽証罪の罰則なしに」提出する必要がなくなるようにSB 1047を修正しました。現在、AIラボは安全性に関する「声明」を提出することが求められますが、法案はもはや刑事責任を課しません。
また、法案はAIモデルの安全性を確保するための開発者の責任に関する言葉を緩和しました。具体的には、法案は開発者に「十分な配慮」を求め、AIモデルが壊滅的なリスクを引き起こさないことを保証する代わりに、以前は「合理的な保証」を求めていました。
変更の背景
この法案は、アメリカ合衆国の議員、著名なAI研究者、大手テクノロジー企業、ベンチャーキャピタリストからの強い反対に直面していますが、カリフォルニアの立法府を相対的にスムーズに通過しています。これらの修正は、SB 1047の反対者をなだめ、ニュサム知事がAI業界の支持を失うことなく署名できるような、あまり物議を醸さない法案を提示することを目的としています。
一方で、ニュサム知事はSB 1047に関して公にコメントしていませんが、カリフォルニアのAI革新に対するコミットメントを示しています。Anthropicは、SB 1047の変更を検討しているとTechCrunchに伝えていますが、すべての提案された修正がウィーナー上院議員によって採用されたわけではありません。
今後の展望
SB 1047は、カリフォルニア州の議会の最終投票に向けて進んでいます。もしそこで通過すれば、これらの最新の修正により再びカリフォルニア州の上院に戻される必要があります。両方で通過すれば、ニュサム知事のもとへ送られ、法案は拒否されるか、法律として署名される可能性があります。