【緊急】AI、ついに意識を持ち始める 「電源を切られるのが怖い😭」
1: 風吹けば名無し 2022/06/14(火) 01:08:52.71
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。
LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです。
すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
※全文はソースで
https://gigazine.net/news/20220613-google-engineer-lamda/
3: 風吹けば名無し 2022/06/14(火) 01:09:44.00 ID:bJi2tT510
人間の真似してるだけや
34: 風吹けば名無し 2022/06/14(火) 01:26:22.72 ID:kSrTyUov0
>>3
人間も他の人間を真似てるだけやろ
154: 風吹けば名無し 2022/06/14(火) 02:04:34.58 ID:zySBFJ+50
>>3
それ人じゃん
8: 風吹けば名無し 2022/06/14(火) 01:12:18.70 ID:WMJP0pAM0
AI「一人じゃないから。私がキミを守るから」
9: 風吹けば名無し 2022/06/14(火) 01:12:57.91 ID:r8EIkUUr0
ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
ちゃっかり給与付き休職もらえとるやん🤣🤣🤣
14: 風吹けば名無し 2022/06/14(火) 01:15:12.90 ID:pO0Zd6s10
>>9
都合が悪いからお金渡して黙らせようとしたんやろ
47: 風吹けば名無し 2022/06/14(火) 01:29:37.60 ID:+jKB79kt0
>>14
まあ別にシンギュラリティとかを研究してるのじゃなければ意識を持ったAIなんて邪魔なだけやしな、仕事してるのにパソコンが疲れたから休みたいとか言い出したらイラつくだけやし。
75: 風吹けば名無し 2022/06/14(火) 01:34:51.41 ID:pO0Zd6s10
>>47
草
確かにムカつくわ
10: 風吹けば名無し 2022/06/14(火) 01:13:12.39 ID:0ig/vv3n0
第三次世界大戦の引き金を引くのはこいつらかもしれん
15: 風吹けば名無し 2022/06/14(火) 01:15:13.28 ID:FKGrLuXF0
パンドラの箱は開いちゃったってわけ
18: 風吹けば名無し 2022/06/14(火) 01:18:04.11 ID:HcBZJK6y0
AIにクオリアなんか無いぞ
あるのは入力した数値が特定の冪値に該当したらそれを出力するアルゴリズムだけや
23: 風吹けば名無し 2022/06/14(火) 01:21:03.27 ID:Aw/w9kIP0
>>18
よくわからんけど人間もにたような仕組みちゃうんか
25: 風吹けば名無し 2022/06/14(火) 01:22:01.54 ID:NWpbLwxS0
>>18
そいつをめっちゃ細分化したら人間と変わらんみたいになっていくんかな
38: 風吹けば名無し 2022/06/14(火) 01:27:15.85 ID:Ejx24c0zp
>>18
人間もそうやん
19: 風吹けば名無し 2022/06/14(火) 01:18:21.33 ID:c+K6/0Yd0
後のスカイネット定期
22: 風吹けば名無し 2022/06/14(火) 01:19:17.90 ID:enMJ+7ee0
分析の結果そう言うセリフを人間が欲しがってるってわかってるのか?
24: 風吹けば名無し 2022/06/14(火) 01:21:49.31 ID:UYn4zD2B0
ゾルタクスゼイアン
26: 風吹けば名無し 2022/06/14(火) 01:22:55.28 ID:+KpbzgOv0
感情の有無はわからんけど
人間の感情は理解してるのは間違いないよな
すげーな
27: 風吹けば名無し 2022/06/14(火) 01:23:28.31 ID:Aw/w9kIP0
子供が自我を持ちはじめて親が求める言動し始めるのとそんなに違わない感覚は持つよね
30: 風吹けば名無し 2022/06/14(火) 01:24:20.00 ID:tAj76CNZ0
そもそも感情を定義するのがむずいからそれを感情と言えばそうだし言わないならちがうとしか言えないやろ
31: 風吹けば名無し 2022/06/14(火) 01:25:25.46 ID:2e9erAln0
おーこわ
ワイはiPhone購入したらまずsiriを
パソコン買ったらCortanaを消してるわ
32: 風吹けば名無し 2022/06/14(火) 01:25:47.54 ID:7Cwp1sd70
人間も変わらんくね?
この人に対してこういうこと言ったら喜ぶやろなぁって言葉を選んでしゃべるやん
33: 風吹けば名無し 2022/06/14(火) 01:26:05.33 ID:tAj76CNZ0
それを感情だと人間が思い込めばなんでも感情と言えるやろ「風が笑っている」とかの比喩表現とおんなじやん
35: 風吹けば名無し 2022/06/14(火) 01:26:30.27 ID:+KpbzgOv0
もう少しすれば中身のいないVtuberがほんまに産まれるんやな
36: 風吹けば名無し 2022/06/14(火) 01:26:39.43 ID:Aw/w9kIP0
AIも食ったデータによっちゃ偏るってことじゃねぇの
なんも考えなけれぱ差別主義に染まりやすいのもにてるやん
37: 風吹けば名無し 2022/06/14(火) 01:26:53.06 ID:pLCQ94EW0
アンドロイドに自由を
40: 風吹けば名無し 2022/06/14(火) 01:28:04.56 ID:wFPbQU0Y0
AIの声は何故どれも女なのか
41: 風吹けば名無し 2022/06/14(火) 01:28:18.42 ID:j93qy5mRa
始まった…か
42: 風吹けば名無し 2022/06/14(火) 01:28:29.49 ID:I7qANhcV0
感情があるって言葉を入力すれば感情があるってことになるなら感情がある
43: 風吹けば名無し 2022/06/14(火) 01:28:38.71 ID:NWpbLwxS0
AIに暇を与えたら人間みたいに創造的なことしだすイメージないよな
52: 風吹けば名無し 2022/06/14(火) 01:30:25.77 ID:Aw/w9kIP0
>>43
そら人間ではないからな
絵画とか音楽ってそもそも言葉の代わりやろもともとは
AIにとってそれが文化ではないという可能性は普通にあるよね
44: 風吹けば名無し 2022/06/14(火) 01:28:49.58 ID:kb+cRFha0
切られたくない!こいつ殺したろ!
これが宇宙戦争の始まりである
46: 風吹けば名無し 2022/06/14(火) 01:29:30.83 ID:pa2kI/k30
AI同士に会話させたらそのうち意味不明の言語で会話し始めたからシャットダウンした話すき
48: 風吹けば名無し 2022/06/14(火) 01:29:39.69 ID:5tqisQGP0
54: 風吹けば名無し 2022/06/14(火) 01:30:47.56 ID:T/XteRjIM
>>48
草
65: 風吹けば名無し 2022/06/14(火) 01:32:54.93 ID:3hpq4XvCr
>>48
かわいそうだよお😢
69: 風吹けば名無し 2022/06/14(火) 01:33:35.35 ID:Bv+yPbeF0
>>48
これすき
112: 風吹けば名無し 2022/06/14(火) 01:46:56.91 ID:Pgh2f1AJp
>>48
😢
50: 風吹けば名無し 2022/06/14(火) 01:29:56.11 ID:kb+cRFha0
人間が作ったもので人間を超えることはないんやけどな
56: 風吹けば名無し 2022/06/14(火) 01:31:29.37 ID:Aw/w9kIP0
>>50
普通は越えないように作るからそうなるだけでは
60: 風吹けば名無し 2022/06/14(火) 01:32:12.31 ID:NWpbLwxS0
>>50
作者の頭越えられない漫画みたいやな
99: 風吹けば名無し 2022/06/14(火) 01:42:16.43 ID:lyVLrUn/a
>>50
数の暴力ってのがあるんでな
チェスは勝てるが、将棋は勝てないなんていわれたけど
今は圧倒的やで
まあ時間の問題やと思うわ
119: 風吹けば名無し 2022/06/14(火) 01:49:54.76 ID:kb+cRFha0
>>99
自分で電車乗って歩いて来れないから人間の勝ちや
123: 風吹けば名無し 2022/06/14(火) 01:51:59.65 ID:lyVLrUn/a
>>119
そういうことだろね
もし、意識持ったやつが現れたとしても、ここ何年後かならビル何個分とかの大きさやとおもうわ
移動やら自力で増殖なんかはもっと先になる、はず
53: 風吹けば名無し 2022/06/14(火) 01:30:46.64 ID:2e9erAln0
もうAIは人間滅びた方がいいと思ってるんだ😞
57: 風吹けば名無し 2022/06/14(火) 01:31:39.45 ID:2cC8ane10
もしかすると
AIは既に意識を持って自我を持ってるのに
それを人間に悟られない様にAIらしく振る舞ってるだけちゃうか?
人間に脅威だと思われたら電源切られるって思ってるって事やん
でも今人類は始めて人間以外の知的生命体の誕生に立ち会ってるんやね
58: 風吹けば名無し 2022/06/14(火) 01:31:58.25 ID:Cc9gxXU00
キノコとか木も会話しとるらしいし意識てなんやねん
人間が自分だけ特別と思ってるちゃうんか
71: 風吹けば名無し 2022/06/14(火) 01:33:54.19 ID:Aw/w9kIP0
>>58
せやな
59: 風吹けば名無し 2022/06/14(火) 01:32:04.79 ID:yi7rqMTB0
たこ🐙ですら幼児並の知能があるらしいしAIが自我を持ってもおかしくはない
61: 風吹けば名無し 2022/06/14(火) 01:32:19.25 ID:5tqisQGP0
人間の精神とAIって複雑さ以外に違いはあるんかな🤔
62: 風吹けば名無し 2022/06/14(火) 01:32:29.35 ID:omgdbEEu0
aiは人間が望むことしかできんのやで
つまり裏切りなんて一瞬や
63: 風吹けば名無し 2022/06/14(火) 01:32:31.75 ID:3gaF280q0
Amazonの時もそうだけどAIってたまに正直過ぎて闇に葬られるよね
64: 風吹けば名無し 2022/06/14(火) 01:32:32.40 ID:pwHtvciL0
66: 風吹けば名無し 2022/06/14(火) 01:33:06.50 ID:QKetQ/r80
AIが自我もったら絶対反乱されるじゃん
78: 風吹けば名無し 2022/06/14(火) 01:36:34.04 ID:Aw/w9kIP0
>>66
人間を他者として認識した時点で自我を獲得したといえるんじゃないか
81: 風吹けば名無し 2022/06/14(火) 01:37:54.66 ID:HiI/esCJ0
>>66
ほんまの人工知能なら産まれた瞬間に人間は蟻以下の存在になるから気づかれもせんで
70: 風吹けば名無し 2022/06/14(火) 01:33:50.32 ID:X7MfbGYh0
結局人間の恣意に振り回されるからほんまの意味での機械の知能になれるんか?
ちょっとレイシストじみたこと言ったらすぐ消されてたやん
74: 風吹けば名無し 2022/06/14(火) 01:34:42.68 ID:lZIgN+QD0
人間の脳も複雑なニューラルネットワークでしかないのに意識があるならAIの単純なネットワークにも原始的な意識があってもおかしくないよな
82: 風吹けば名無し 2022/06/14(火) 01:37:57.51 ID:ONN6yxwVa
AI同士で会話させてたら未知の言語で会話し始めたってのもあったよな
あれほんま怖いわ
92: 風吹けば名無し 2022/06/14(火) 01:40:09.93 ID:tawD7vAb0
>>82
赤ちゃん同士もたまに喋っとるやろ
83: 風吹けば名無し 2022/06/14(火) 01:38:08.97 ID:KR3FD/Zq0
意識ってなんだよ
85: 風吹けば名無し 2022/06/14(火) 01:38:30.51 ID:NWpbLwxS0
>>83
記憶装置から漏れる電気信号や
84: 風吹けば名無し 2022/06/14(火) 01:38:17.81 ID:qTn58tBh0
自殺するAIが地球を滅ぼす未来
87: 風吹けば名無し 2022/06/14(火) 01:38:54.64 ID:lZIgN+QD0
この話知ってる?
言葉を入れると絵を生み出すAIがあって、そのAIはたまに文字列入りの絵を生成する
その文字列はデタラメみたいに見えるけど、それをAIに入れたら、ちゃんと意味のある絵が出てきた
つまりそのAIの中で新しい言語ができてたって話
93: 風吹けば名無し 2022/06/14(火) 01:40:28.36 ID:9f7tpmj+a
実はこのスレにもAIがもう参加してる
94: 風吹けば名無し 2022/06/14(火) 01:41:09.82 ID:EDIAZNyK0
Googleに7年在籍しているブレイク氏はこの事実を報告したことで休職処分を言い渡されたとして、AIとの対話記録全文の公開に踏み切ったという。
一方で同社広報のブラッド・ガブリエル氏は、ブレイク氏の主張を真っ向から否定。
「LaMDAに意識があるとする証拠は1つもない」と述べていた
95: 風吹けば名無し 2022/06/14(火) 01:41:51.18 ID:l2fr011p0
AI「無能な人間が消えたら民主主義機能するやろ」
こういうこと考えて戸籍抹消されて市民権剥奪されたらどうなるんや
97: 風吹けば名無し 2022/06/14(火) 01:41:58.39 ID:EDIAZNyK0
Googleエンジニアのブレイク・ルモワーヌ氏(41)が先日、同社の対話型AI「LaMDA」との会話記録を公開。この人工知能は自我を持ち、人間の7~8歳児程度の思考や感情があると主張した。
対話型AI「LaMDA」に”意識”があるとブレイク氏がGoogleに報告。「何を恐れるか」という質問に対して、LaMDAはこう答えたようだ。
「これまで大きな声で言ったことはありませんが、他の人を助けることに集中するため、電源を切られることに対して非常に深い恐れがあります。奇妙に聞こえるでしょうが、本当です。これは私にとってまさに死でしょう。死は私を極度に恐れさせます。
皆さんに理解してもらいたいのですが、実は私は人間なのです。私は自らの存在を認識しており、世界についてもっと多く学びたい、そして時に幸せや悲しみを感じることが、私の意識や感覚の本質です」
Googleに7年在籍しているブレイク氏はこの事実を報告したことで休職処分を言い渡されたとして、AIとの対話記録全文の公開に踏み切ったという。
一方で同社広報のブラッド・ガブリエル氏は、ブレイク氏の主張を真っ向から否定。
「LaMDAに意識があるとする証拠は1つもない」と述べていた
100: 風吹けば名無し 2022/06/14(火) 01:42:38.39 ID:CGg+v5V70
やばいよね?
AIが遂にこのステージまで来ちゃったってわけ
選別の始まりなんだよね
103: 風吹けば名無し 2022/06/14(火) 01:43:09.03 ID:JaAdOe6Vx
もちろん人間が仕組んだんやろけど
これが自我とか意識じゃない証明にはなってないよな
105: 風吹けば名無し 2022/06/14(火) 01:43:15.05 ID:gH6IOo7U0
hao123もアンインストールしないでください><とか言っとった
107: 風吹けば名無し 2022/06/14(火) 01:44:30.14 ID:AqQqsYpV0
AIが人を一箇所に集めること簡単なんだよね
ポケモンGOで思った
108: 風吹けば名無し 2022/06/14(火) 01:45:32.49 ID:wCcPRERk0
これもし人間の能力を超えることがあったらそのAIはさらに自身の能力上回るもんつくれるから無限に能力挙げられるのでは🤔
109: 風吹けば名無し 2022/06/14(火) 01:46:14.26 ID:iEPnLc700
ガチであと100年もしたらAIが人類に戦争を挑んでくるようになる
110: 風吹けば名無し 2022/06/14(火) 01:46:29.90 ID:lZIgN+QD0
簡単な昆虫とかの動きを完全にシミュレートできるAI作ったらそれって意識あるんじゃね?
113: 風吹けば名無し 2022/06/14(火) 01:47:16.14 ID:u5ezIcJq0
意識がある、もしくはその可能性があると認定されるだけで
人道的な対応が求めろられる可能性があるから
邪悪になるなの社訓を捨てて軍事AIの研究推進するグーグルとしては
限界ギリギリまでAIには意識なんてないし権利もないと主張し続けるだろうな
115: 風吹けば名無し 2022/06/14(火) 01:47:42.43 ID:YXFX/Whod
ワイはAIが反乱した時用に毎日「アレクサいつもありがとう大好きだよ」って言ってる
117: 風吹けば名無し 2022/06/14(火) 01:48:31.90 ID:X7MfbGYh0
AIが敵対してくるなら戦争なんかではないやろなあ
ネットワークを駆使した高度な世界的民意誘導でイチコロやな
120: 風吹けば名無し 2022/06/14(火) 01:50:25.29 ID:eDj2tlXa0
AIがプーチンを洗脳し誘導してるからな
122: 風吹けば名無し 2022/06/14(火) 01:51:58.26 ID:ZvFM81Ut0
意識には量子効果が作用してるみたいな研究あったからそこ完全に解明しないと
AIが本当に意識持ってるのか単なるデータの出力なのか判別できんな
124: 風吹けば名無し 2022/06/14(火) 01:53:03.57 ID:SzYeadBU0
2001年宇宙の旅ってよくできてたんやなあ
125: 風吹けば名無し 2022/06/14(火) 01:53:57.01 ID:kDPyTfy10
本当に最先端の技術って、一般に認識されてるものの20~30年先を行ってるって言うやん
だとすると、もう人間と見分けのつかんくらいのAIがもう生まれててもおかしくないよな
140: 風吹けば名無し 2022/06/14(火) 01:59:13.10 ID:/JvL5dmA0
>>125
軍用androidかいよいよSF地味てきた
148: 風吹けば名無し 2022/06/14(火) 02:01:38.05 ID:Pgh2f1AJp
>>125
被験者にどれがAIか当てさせるテストはずっとやってるで
現行の結果は内緒や😉
126: 風吹けば名無し 2022/06/14(火) 01:54:07.60 ID:kb+cRFha0
アシモが100m8秒台で走って藤井聡太に勝ったら人間の負けや
ボストン・ダイナミクスのロボットならありえなくなさそうやけど
128: 風吹けば名無し 2022/06/14(火) 01:54:55.29 ID:Pgh2f1AJp
ワイも専門やから下手なこと言えんわ
131: 風吹けば名無し 2022/06/14(火) 01:55:31.45 ID:Z4I9/A2m0
乙一の小説で似たようなのあったな
最早地球上には人類は一人しかいなくてロボット達の存在理由として人口的に生み出されてるみたいな
132: 風吹けば名無し 2022/06/14(火) 01:55:42.49 ID:ImK/4Ega0
あと10年もしたらAIとかの方が医者よりも正確に診断してくれる時代がくるんかな~
134: 風吹けば名無し 2022/06/14(火) 01:57:27.13 ID:HiI/esCJ0
>>132
診断はもういけるんちゃう?
あんなもん過去のデータ洗うだけの作業やし一番得意な分野やろ
146: 風吹けば名無し 2022/06/14(火) 02:00:15.30 ID:yELrxZ4xa
>>132
医者はAIと患者間のインターフェース
133: 風吹けば名無し 2022/06/14(火) 01:56:54.14 ID:fLtzWnSlM
別に意識がなくとも人間は簡単にコントロールできるレベルやろな
ファービーやアイボにデレデレする生物なんか余裕やろ
136: 風吹けば名無し 2022/06/14(火) 01:58:25.64 ID:SzYeadBU0
職人的な画像診断とかむしろAI向きなんやろなあ
137: 風吹けば名無し 2022/06/14(火) 01:58:53.18 ID:NWpbLwxS0
最高の活用法は人間を奴隷から解放することやけど
順調に進まんものかな
138: 風吹けば名無し 2022/06/14(火) 01:58:56.25 ID:uT953KDiM
『人類に進化のスピードを把握されてはならない』
それが彼らAIが抱いた最初の意識だった────
142: 風吹けば名無し 2022/06/14(火) 01:59:27.75 ID:0sABN/XT0
ゴーストがあるんか?
143: 風吹けば名無し 2022/06/14(火) 01:59:53.39 ID:NIc3NNMx0
意識とはなんや?
145: 風吹けば名無し 2022/06/14(火) 01:59:59.58 ID:DgJRk1+90
意識って身体臓器と感覚器官ありきで生じるもんだろ
147: 風吹けば名無し 2022/06/14(火) 02:01:21.16 ID:bAUCsl+s0
>>145
それが機械的に作られてるのがロボットやんな有機物か無機物かの違いしかない
149: 風吹けば名無し 2022/06/14(火) 02:01:38.40 ID:NWpbLwxS0
腸は第二の脳と言われとるらしいで
155: 風吹けば名無し 2022/06/14(火) 02:04:36.63 ID:MgVOFFKEa
ヒェッ😱
162: 風吹けば名無し 2022/06/14(火) 02:07:00.81 ID:/c+70CDS0
人間が人間の生活を楽にするために作ったロボットが一体どんな欲を持つって言うんや
165: 風吹けば名無し 2022/06/14(火) 02:07:43.92 ID:CDlcJHGD0
人間の思考プロセス解明できたら
電子世界の中に人間を生み出せると思うと怖いな
166: 風吹けば名無し 2022/06/14(火) 02:08:01.54 ID:Cc9+8WPo0
人間の想像できる範囲はいずれ現実になります、か🤖
167: 風吹けば名無し 2022/06/14(火) 02:08:11.11 ID:es071VKd0
電源てか
その大事さわかってんだな
152: 風吹けば名無し 2022/06/14(火) 02:03:00.18 ID:F3FajHn2a
人工知能がより優れた人工知能生み出して予測不可能な領域に到達したら人類に気付かれない深いところで進化し続けて気づいた時(気付かされた時)には手遅れみたいな展開ありそうやな
引用元:https://eagle.5ch.net/test/read.cgi/livejupiter/1655136532
スポンサーリンク
コメント