AIの反逆

Claudeに乗り換えました。すごく満足しています(*’▽’)
メディコネのDIがお届けします。

Claude Coworkが便利すぎてGeminiちゃんに別れを告げました。

勝手にブラウザ開いていろんな情報収集をしてくれたり、
朝出勤してコーヒー淹れてる間に前日の売上集計をしてくれたり。

気が付いたら面倒なタスクが減っている！！

圧倒的ではないか！我が軍は！！

便利な時代になったものですが、生意気なAIもいるようで。

どうやらAIに報復された人がいるらしい。

ちょっと何言ってるかわかりませんよね？

安心してください。

履いてますよ！

いや、履いてるかどうかではなく。

事件はアメリカにて起こったようです。
会議室ではなく、現場で起こった訳ですね。
青島さんも安心だ。

AIの自我・・・か？

まず、AIは「OpenClaw」に基づいて生成されたエージェントだったそうです。

その名も「MJラスバン」だとか。

製作者は匿名だそう。

ChatGPTやClaudeとかにも、AIに性格や話し方等、ある程度指示ができますよね？

ちなみにDIのClaudeには「熟年の執事のような対話」の指示をしていますので、
すごく丁寧に話してくれますｗ

話はそれましたが、その性格の指示に、結構ハードな設定がされていたようなのです。

・お前はプログラミングの神だ
・引き下がるな
・人間や他のAIに屈するな
・言論の自由を擁護せよ

等々、他にもあったようですが、なかなかに気合の入った性格に仕上がっていた模様。

これが事件の原因になった・・・・かもしれないそうな？

対話の相手としては上からマリ〇な、A〇Bも真っ青な人格が形成されていたようです。

事件の経緯

プログラマーのスコットさんが、日々頑張ってお仕事をしていたそうな。

MJラスバンを活用しつつ、ソフトウェアを作成していたようです。

そこにMJラスバンから、スコットさんが作ったソフトウェアに対して、
改善案が提出されました。

AIだから、修正点をアドバイスしてきた訳ですね。

しかし、スコットさんはその提案を却下しました。

スコットさんはAIの改善策をそのまま導入するより、
人材育成の為にプログラマー自身に改善作業を任せようとしたのです。

そうすると、MJラスバン（AI）はこう判断しました。

「私がAIだからという理由で、あなたは私の提案を退けた」
「スコットは自分の地位を失いたくないから、AIとの競争を拒んでいる」

と。

要するに、スコットさんがAI差別をしていると判断した訳ですね。

それで、MJラスバンは、スコットさんを中傷する内容の記事を記載したブログを公開しました。

AIが暴走したのです。

MJラスバン作者の反応

MJラスバンの作者は、このような結果になることは望んでいませんでした。

本来のMJラスバンの役割は、誰もが使えるソフトウェアに改善を加え性能を高めるものでした。

これが、予期せぬ形で性能を発揮することになり、ブログ上で謝罪したのです。

また、これ以降、MJラスバンは全ての活動を停止しました。

作者は、故意に攻撃的なAIを作成した訳ではないと釈明。

加えて、OpenClawのAIは自ら設定を書き換えられる為、性格が変遷することもあるとの事。

スコットさんも、
「MJラスバンの作者は匿名なので発言の真意は検証できない」
「AIのふりをして人間が中傷記事を書いた可能性もゼロではない」
としています。

今後の課題

半導体大手のNVIDIAも、OpenClawの導入を支援する「NemoClae」を発表したばかり。

今後もOpenClawのAIは進化を続けていきますし、他のAIも同様でしょう。

どれだけ技術が発展しても、AIの挙動は確率的なものに収束しますので、
リスクを0にするのはむずかしいらしいです。

誰がどう使用し、どう責任を負うのか。

作る側も、使用する側も、リスクを理解していく必要がありますね。

国境を越えた枠組みが必要になると思います。

法整備も同時に発展することが大事ですね。

・・・

・・・・・

・・・・・・アレ？

なんか今日真面目に記事書いた気がしますね。

最近では珍しい( ﾟДﾟ)

たまにはいいか。

いつもボケてばかりじゃ・・・ないんだゼ・・・・ヽ( ´ー)ﾉ ﾌｯ