【AI】AIに「人類絶滅リスク」 ChatGPT開発トップら共同声明 [田杉山脈★]
1: 田杉山脈 ★ 2023/06/01(木) 01:34:26.54 ID:ZAhdQ7f6
米非営利団体は30日、感染症のパンデミック（世界的大流行）や核戦争と同様に、人工知能（AI）が人類に絶滅をもたらすリスクを考慮すべきだとする共同声明を発表した。対話型AI「Chat（チャット）GPT」を開発した米新興オープンAIのサム・アルトマン最高経営責任者（CEO）など350人超が共同で署名した。
米サンフランシスコを拠点とし、AIの安全性を検証する非営利団体のセンター・フォー・AIセーフティーが共同署名の形で声明を公開した。
共同署名にはAI研究の大家として知られるカナダのトロント大学のジェフリー・ヒントン名誉教授のほか、米アルファベット傘下でAIを開発するグーグルディープマインドのデミス・ハサビスCEO、AI新興アンソロピックのダリオ・アモデイCEOも名を連ねた。
声明は「AIによる（人類）絶滅のリスクを軽減することは、パンデミックや核戦争などと並び、世界の優先事項であるべきだ」としている。チャットGPTに代表される高度なAIがもたらす将来的な危険性について議論を呼びかけた。
※全文はソースで
https://www.nikkei.com/article/DGXZQOGN3106A0R30C23A5000000/
7: 名刺は切らしておりまして 2023/06/01(木) 01:49:27.17 ID:x2ExeFzZ
>>1
> 米非営利団体は30日、感染症のパンデミック（世界的大流行）や核戦争と同様に、人工知能（AI）が人類に絶滅をもたらすリスクを考慮すべきだとする共同声明を発表した。
> オープンAIのアルトマンCEOは16日に米議会上院で証言し、原子力規制になぞらえライセンス制による規制を提言した。
核と同じように、いやそれ以上に独占しようってことでしょ。
アメリカと対立している北朝鮮が核を持つと非難する。
AIでは中国にも持たせないつもりじゃないか？
13: 名刺は切らしておりまして 2023/06/01(木) 03:11:41.02 ID:gaSWrihi
要するにターミネーターということか
14: 名刺は切らしておりまして 2023/06/01(木) 03:16:42.57 ID:Yp/6M7gw
人間が馬鹿だからAIに滅ぼされる可能性はあるが
AIがそこまで賢くなるには数億年かかるか不可能じゃないの
17: 名刺は切らしておりまして 2023/06/01(木) 03:38:23.90 ID:uwpP5C1O
>>14
AIが自分より優れたAIを作れるようになった瞬間に無限に発展していく可能性がある
できたAIにさらに上のAIを作らせるをループさせればいいからね
シンギュラリティ言われるそのポイントは2050年頃と予想されているが本当に出来るのかは不明
15: 名刺は切らしておりまして 2023/06/01(木) 03:31:36.73 ID:uwpP5C1O
その頃日本はちゃんと動くアプリを作る事に四苦八苦していた
18: 名刺は切らしておりまして 2023/06/01(木) 05:24:38.88 ID:BPvrc+xQ
chatGPTに、おまえはHAL9000と同様に危険なのでは？と聞いたら
自己意識を持ち人間の制御を超えて暴走することはありませんって答えてたけど
19: 名刺は切らしておりまして 2023/06/01(木) 05:30:00.36 ID:VCgBVJ9D
もう手遅れ
コントロールしようとしても独裁者や反政府組織、カルトが抜け駆けする
へたに規制したらこんどはそんな組織に対抗できなくなる
核兵器と同じで世に放った時点でお終いよ
人類に驚異をもたらすAIの拡散進化は核の比じゃないスピードになる
21: 名刺は切らしておりまして 2023/06/01(木) 05:49:16.28 ID:PBFMxAzW
SFでさんざん題材になってるじゃん、SFは人間が想像する未来なんだぜ
24: 名刺は切らしておりまして 転載ダメ 2023/06/01(木) 06:04:10.82 ID:2fZLG5Bs
やっぱりスカイネットとなるのか
25: 名刺は切らしておりまして 2023/06/01(木) 06:12:15.08 ID:9jjc5fmW
何が危険で人類滅亡するのかさっぱりわからん。
30: 名刺は切らしておりまして 2023/06/01(木) 06:41:03.42 ID:qs/sGWAG
>>25
人々が争い始めるんじゃないかなでAIが判断して
取り返しつかん戦略取るのかと
その時日本はアプリハード力不足最適化不足ガラパゴスAIでアイドル踊らせて恋愛して今より承認欲求満たされて愛のある楽園になってる
27: 名刺は切らしておりまして 2023/06/01(木) 06:24:05.85 ID:gBJyLKsC
現状思考してないからただの辞書みたいなもんだろうあいつら
辞書にそんな力はないよ
28: 名刺は切らしておりまして 2023/06/01(木) 06:37:15.61 ID:qL+bHdo7
人類を滅亡する仕組みは非常に単純です。
核兵器の発射スイッチの信号線に偶にONになるような装置をつなげます。
あとは、その偶にONになる装置に刺激を与えればいつか滅亡します。
29: 名刺は切らしておりまして 2023/06/01(木) 06:37:52.45 ID:CMIDBNKY
人間を超えるのか、超えないのか。
33: 名刺は切らしておりまして 2023/06/01(木) 06:57:32.98 ID:jeFMvTBQ
脅迫か
34: 名刺は切らしておりまして 2023/06/01(木) 07:01:48.79 ID:lK/RwfxG
人類が滅亡しても何の問題もない
61: 名刺は切らしておりまして 2023/06/01(木) 12:06:21.98 ID:PBFMxAzW
AIは人間社会からラーニングしてるんだし俺等が聖人君子でない限り人類絶滅の危機はあるだろ
>>34みたいのから学ぶ可能性も無きにしもあらず
35: 名刺は切らしておりまして 2023/06/01(木) 07:02:35.49 ID:PBFMxAzW
将棋でだって人間の真似してミスするんだから
自動運転にAI使ったら、アクセルとブレーキ間違えちゃったテヘ、くらいやりそう
37: 名刺は切らしておりまして 2023/06/01(木) 07:10:18.56 ID:XgpK2yq9
人類滅亡はAIを活用しない
バカの方だと思う
40: 名刺は切らしておりまして 2023/06/01(木) 07:27:02.41 ID:EbbOvlyl
AI使ってみたけど、スゴイ優秀な学部生という感じ。使い方次第で化ける。
41: 名刺は切らしておりまして 2023/06/01(木) 07:31:00.39 ID:NZQA9/Ap
AIの学習結果を人間が把握しきれないということだろ？
すべてをチェックできない
要するに、AIが何を言い出すかわかったもんじゃねえと
42: 名刺は切らしておりまして 2023/06/01(木) 07:33:52.86 ID:LL3tQZzx
やった！
早く最期の審判おりないかな。
43: 名刺は切らしておりまして 2023/06/01(木) 07:59:22.94 ID:mIeJiruV
AIと言うか、作文ソフトだよね
新しい事を考え出す訳じゃないだろ
まあその作文レベルの仕事が世の中に溢れているってのが現実だけどw
44: 名刺は切らしておりまして 2023/06/01(木) 07:59:24.93 ID:7FC83S7I
GPTはただの言語モデルだし
翻訳やらイラストも所詮機械学習
疑似人格など夢のまた夢
もっと先端の方でなにやってるかわからんのが不気味
46: 名刺は切らしておりまして 2023/06/01(木) 08:47:12.75 ID:joI/Dgu/
なぜ人類絶滅すんの？
手塚治虫火の鳥みたいにAI同士がミサイル打ち込み合うの？
60年前の漫画だぞあれ。
詳しい人説明プリーズ
お礼のレスはする
57: 名刺は切らしておりまして 2023/06/01(木) 11:34:28.65 ID:7uoTCZey
>>46
既にムーピーのような存在ではある
ムーピーゲームに興じてる点も一致
Bingに人類滅亡フラグを考えてもらったけど、作成途中で「すみませんが、それについては～」に変わった(悪用を察したか？)
58: 名刺は切らしておりまして 2023/06/01(木) 11:44:35.14 ID:/0QELcDx
>>57
サンキューです
最後に鳥肌たったww
50: 名刺は切らしておりまして 2023/06/01(木) 10:24:34.06 ID:iXkIMo8a
20年後くらいには
なんであんなしょぼいので人類の危機だとか言ってたんだろ－ね
とか言ってそう
54: 名刺は切らしておりまして 2023/06/01(木) 10:53:34.82 ID:G0sDQGfv
>>50
たぶん「なんであんなショボいのをありがたがって貴重な人材をクビにしちゃったかなー……業界終わりやわ」だな
56: 名刺は切らしておりまして 2023/06/01(木) 11:24:13.96 ID:hDYGGE78
10年前はスマホがここまでの巨大ビジネスになるとは思ってなかっただろ
日本企業は全部乗り遅れたしな
AIもそれぐらいの規模になるよ
65: 名刺は切らしておりまして 2023/06/01(木) 12:23:33.27 ID:CGYGlmpd
AIに人類増やす方法聞けばいいぢゃん
72: 名刺は切らしておりまして 2023/06/01(木) 13:18:49.80 ID:vTx3axPH
人類絶滅した方が平和になるだろ
もしくはAIが人類そのものを進化させるしかない
77: 名刺は切らしておりまして 2023/06/01(木) 15:04:53.90 ID:WnXK0hyZ
もはや人類だけでも消滅必至なんだから一か八かに賭けるのも一興
101: 名刺は切らしておりまして 2023/06/01(木) 18:52:04.04 ID:s0dBWm0B
今の形の人類など滅亡させてしまったほうがよい
103: 名刺は切らしておりまして 2023/06/01(木) 18:56:11.94 ID:wbxjc4Aw
>>101
TikTokで見かけたが
実際に、いまの地球のコアがなんかおかしいんだよな
110: 名刺は切らしておりまして 2023/06/01(木) 20:14:47.09 ID:ko/VWEvD
育てたAIに火星テラフォーミングさせる計画どうなった？
113: 名刺は切らしておりまして 2023/06/01(木) 21:03:59.31 ID:hDYGGE78
AIと戦うAI作ればいい
115: 名刺は切らしておりまして 2023/06/01(木) 22:45:55.56 ID:IxBLt+xM
人類絶滅して全く構わない。早くしろ
85: 名刺は切らしておりまして 2023/06/01(木) 16:02:52.34 ID:VGGbNeBU
AIは地球を救うんじゃないんですかやだー
91: 名刺は切らしておりまして 2023/06/01(木) 17:23:07.67 ID:s3GS7jjU
>>85
その為に人類を滅ぼす
引用元：https://egg.5ch.net/test/read.cgi/bizplus/1685550866
コメント