"生成AIには危険な使い方を防ぐための仕組みがある一方、それを外そうとする試みも続いています。""今回のFable 5では複数の手法を組み合わせた回避策が見つかり、一部で出回っていたようです。これに対してAnthropic側はどのモデルでも...

"生成AIには危険な使い方を防ぐための仕組みがある一方、それを外そうとする試みも続いています。""今回のFable 5では複数の手法を組み合わせた回避策が見つかり、一部で出回っていたようです。これに対してAnthropic側はどのモデルでも応用できる手法と反論しています。""興味深いのは、その懸念を米政府に伝えたのがAnthropicに出資するアマゾンという点です。AIが止まればさまざまな損失は免れないところですが、本格的に悪用されるとAWSがその拠点となる恐れがあったこと、また米政府との関係や将来の利益を考慮して行動したと考えられます。"https://news.yahoo.co.jp/profile/commentator/yamaguchikenta/comments/e36d74e2-d332-4d4d-bdec-f955ab0fbe25#Anthropic #Amazon #AI #安全保障 #アメリカ #ニュース

Read Original

Related