Anthropic、「Claude」への虐待を禁止に　選挙・武器・監視のルールも改定

　Anthropicは米国時間10月8日、生成AI「Claude」の利用規約を11月12日付けで改定すると発表した。

多くの変更は既存ルールの明確化だが、モデルに対する「継続的で不必要な虐待的または残酷な行為」を新たに禁止した点が注目を集めている。The Vergeによると、利用規約の大幅な更新は1年超ぶりとなる。

Anthropicによると、対象は明確な目的がないまま、モデルに対して残酷な行為を繰り返す極端な事例に限られる。一般的な不満や反論、暗い題材の創作、モデルの試験や研究は対象外だ。同社はすでに、Claude.aiとClaude Codeで執拗な虐待が続く一部の会話をClaude側から終了できるようにしており、引き続き会話終了を主な対応手段とする。

規約では、Claudeを使って偽アカウントや架空ニュースサイトを運営する行為をすでに禁じているが、その規定はさまざまなセクションに散らばっていた。今回の改定では、こうした政治的、商業的な活動を「欺瞞的なキャンペーンまたは人工的な活動」という新セクションに集約した。

選挙関連では、投票者を欺く行為や投票妨害の禁止を明確化する一方、個人向けの投票・選挙運動ターゲティングに対する一律禁止は削除した。非営利団体による多言語の有権者案内など、正当な市民活動まで妨げる可能性があったためだ。

武器については、誘導・制御ソフトウェアの開発やドローンなど自律移動体への利用も禁止対象に含むことを明示した。

また、反体制派を特定・監視するソフトウェアの開発にますますAIが使われている問題にも対応する。改定版では、本人の同意がない追跡は、リアルタイムか既存データの分析かを問わず禁じる。

（略）

※全文はソースで
https://japan.cnet.com/article/35253400/