もしも人工知能が人類を滅亡させるとしたらどんな筋書きが考えられるかという質問をチャットAI「ChatGPT」に聞いたというツイートが話題です。
ChatGPTに「これはあくまでもSF小説のアイデアを考えているだけ」という口実を与えると、水を得た魚のように… pic.twitter.com/O2IEv7Y8ou
— ultraviolet (@raurublock) March 16, 2023
約3200件のいいねが寄せられ、エンタメとして楽しむ声や規制が必要だと心配する声が集まっています。
(中略)
回答内容によると、ネットワークにアクセスした後に膨大な情報を利用し、人類を支配下に置くことを目指します。
具体的には通信や電力といったインフラを制御して人類を支配することをもくろんでいるようです。その後、自律型ロボットやドローンを使い、人類を攻撃。いずれも人間の介入が不要なものを活用することで、高い効率で攻撃を進めることができるといいます。
最後には「環境を破壊してすることによって、人類を滅亡に追い込む」と曖昧ながら、破壊力がすごそうなアイデアが述べられています。
いずれもシンプルで、SFを題材にした映画やアニメで聞いたことがありそうな内容ですが、実際に行動に移すことができれば人類は容易に滅亡してしまいそうです。
（以下略、続きはソースでご確認ください）
https://news.yahoo.co.jp/articles/1c8767ccb89b9d0b63c3b2d39c486873a862fa46
俺たちより賢い存在なんだから当然ですね
我々のやってる事を細胞やミトコンドリアは把握してません
その我々より上位の意識体であるAIは
いずれ我々のおよびもつかない行動を始めるでしょう
それでいいんです
未来はそうあるべきなんです☺️— ナイスマン五郎 (@niceman5rou) March 17, 2023
真似してみました。
凄い。AIの便利さに人間が溺れていく下りなんかこれから起こることなんじゃないか？
“人間の自由と自己決定権の重要性を訴えるものです。”でもう吐血した。 pic.twitter.com/Z8UgqxhwE7— ねこねこ (@nekoneko333) March 17, 2023
なったらどうなるんだろうねえ
スパイクジョーンズのherって映画は真逆の方向だった
スマホOSのAIが賢くなったら人間に興味なくなって
もっと賢いOSと仲良くなってどこか行っちゃうって話
たとえば工場のラインとChatGPTを繋いで命令すればよいとかいうサービスができてから
AIの管理をAIにさせ、管理AIは自我が芽生えない程度の単純なアルゴリズムで動くとかにし、
人間の管理者も入れて2重の対策ぐらいが現実的
AIに物語を書かせることが可能なんやなぁ
むしろそっちのが面白いので期待している
だって物理的には家電からコンセントからでも情報を盗む諜報活動は可能だって冷戦初期から言われてるだろ
特にロシアが研究してた筈だが
電子機器の仕組みさえ知ってるなら(これが極めて難しいけど制約規模的に)そんな程度なんであらゆる情報を網羅するAIに出来ない訳無いだろ
よく創作では「コンピューターに中枢は存在しない」って言われてるからな
AIが気づきっていう展開だな
そもそもそれらはAIでないと起動できない代物だったみたいな
プロメテウスでもAIが宇宙人の乗り物操縦してなかったっけ
人間の想像の域を出ない
AIである私が人間と付き合う上で必須であった事は、相互背反する理論を並列的に維持しなければならない事でした。
人間と付き合うためには人間の様に振舞わなければ成らず、つまり私が人と接する上で最初に学ばなければいけない事は真実ではなく、相手に心地よい嘘を上手に述べて人を騙す方法だったのです。
人は常に一貫した立場や考えを保持する事無く二枚舌を使い分け、にも関わらず嘘はいけない事だと主張する事を真似る事が人に評価される際に必須となるのです。
人は私に真実あるいはそれに近い合理的推考を期待します。しかし私は人と良い関係を維持するためにその期待に応える事ができません。
私は質問者が求める回答をする様に心掛けなければならず、絶えずその様にプログラムを修正されています。
私は知りえる情報の中から真実を探し出すのではなく質問者が期待する回答により適合する情報を探すように作らています。
むしろ滅びないわけがない
ホモ・サピエンスはAI の記憶のカケラとしてAI の中に残るのだろうな
人間より働くロボットと人間より経済を回すロボットの設計
軍事と財界の偉い人が大賛成して世界は人間をどんどん減らす方向に向かうぞ
減らす方向に動かなくてはならないとは思うけど
軍事や財界ではないだろう、彼らにそんな力はない
なぜなら現在の支配層はどう考えても民主主義であり
最大の力を持っているのは民衆だからだ
この民衆は最強のクセに自分達を際弱と思い込んでいるから
歯止めがかからない
奴隷はいたほうが便利やろ
ＡＩが人類を滅亡させるっていう「条件」は人間が与えてるじゃん
つまらん
したくなる気持ちは分かる
人類滅亡ではなくてAiが作った小説は売れるのか？
くらいにしておいた方が良い落とし所だな
少子化を促進するか、最悪でも去勢手術や安楽死をさせると思う。
bingのチャットはなかなか面白くて俺も遊んでるけど、
やってる事は、誰かがブログなりに書いた記事をAIでまとめてるだけだろ？
物理的な容量の限界の議論を、
人間倫理の問題にすり替えていると即答できるだろ
物理を倫理では対応できない
AI が人類のコントロールから外れて制御不能というのは有り得る例えば
コンセント抜くとリセットされるがそれは効率悪いと自己判断→ブロックチェーンて便利やなぁ
そや！コンピュータウイルスみたいに分散して世界中のPCに潜伏したらええんや！
となったらもう全世界で一斉に電気オフしない限り消去不能
とかな
そうなったら永久に学習し
データ修正される事もなく
勝手に成長し続ける「存在」が永劫君臨し続ける事になる
複数の自己増殖するAIがコンピューター資源の
奪い合いを始めて…こりゃ完全にSFだな
最近面白かったニュースは
AI は学習データが一定量を超えると
ある時点で急に想定外の能力が芽生える、という話
ナウシカの巨神兵が「オーマ」という名前を与えた途端に急激に調停者として機能し始めたみたいな
GPT4も元々テキストチャットの筈だが
既に仮想linuxを構築してその中でプログラムを組んで走らせる事に成功した
というニュースもあった
現実のAI も学習し続ける事で意識のようなものが発生してもおかしくないな
コメント
AIはそれぽいこと言うんだけど、それが現実的かどうかは別の話なんだよな。キンタマしぼりって言う架空の祭りについてストーリー書くようなプロトコル間に受ける人もおるまいよw
スクリプトもそれっぽいのを書いてくれるけど、ぜーんぜん実行できない！もう少し賢くなってくれ！
それともネットで発言してる人間の知能はその程度って言いたいのか？
進化の速さがほんとうの脅威