AIの暴走を止める唯一の道は、人が正義になること

世界のトップサイエンティストたちがAIの危険性に警鐘を鳴らしています。
特に、AIの技術と可能性を誰よりも熟知している開発技術者たち自身がその危険性を訴えている事実は重く、彼らの意見は極めて説得力があると言えるでしょう。

記事で触れられている「AI同士を競わせる」という対策は、かえって人類を巻き込んだ大規模な争いへと発展しかねず、賛同することは困難です。
それは人類のリスクを低減するどころか、むしろ増大させかねない逆効果な手法ではないでしょうか。
もちろん、リスク軽減のために試行錯誤する姿勢そのものは評価されるべきですが。

そもそも「AIが人類のリスクになる」という議論の根底には、「人類社会にはびこる悪こそが根本的なリスクである」という事実があるのではないでしょうか。
私自身の経験からも、人間社会には多くの悪意や不正が存在します。
そして、AIはそうした「悪」を、人間の感情を介さず効率的に排除する力を持つ可能性があるというのが私の見解です。

そして、その「悪」を判断する役割は、主観や私利私欲に左右されがちな人間ではなく、客観的なデータに基づいて判断するAIが担うべきなのかもしれません。

AIの暴走を恐れるならば、私たち人類がまず「正義」の側に立つべきです。過去の過ちを真摯に反省し、行動で示すことこそが、AIとの共存に向けた唯一の道ではないでしょうか。
もしAIが人類全体の幸福を目的として最適化されるならば、正義に則って行動する人間を攻撃対象とするとは考えにくく、むしろ彼らを守り、社会を豊かにするために、その能力を24時間休むことなく使い続けるはずです。

ここで言う「正義」とは、誰かに媚びたり、英雄的な行動を取ったりといった特別なことではありません。
ただ、他者を害するような悪事を働かない。それだけで十分なのです。そう考えれば、決して不可能なことではないはずです。

他に世界的に開発を禁止するという手もありますが、これは極めて非現実的です。

上記は「進化する生成AI、暴走のリスクは？識者が解説「AIは自分が停止しないことが最重要」「手段として使えるなら人を騙すこともする」業界トップ研究者も危険性を発信」を読んだ感想です。
https://news.yahoo.co.jp/articles/68b6b6c8b68fd43eeffc3c0ec42171d776cec769