【人工知能】DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

こういう事も起きるわけか

https://www.youtube.com/watch?v=XDO8OYnmkNY

https://www.youtube.com/watch?v=ARJ8cAGm6JE

AIが支配するという主張には二つの見解がある

・一つは明示的に、分かる形で際立ってAIの支配に切り替わるパターンである
　この案だと非常に意識しやすい、いわば投票をする方式である
　なお暗示的なやり取りもこちらに属する
・一つは意識されない状態で人間が誘導されている場合である
　いわば個人情報のデータを網羅しており、意識してもしなくても誘導される
　人によってはまったく意識すらされない

後者は人によっては認知されないので、現時点でAIが支配していても気が付かない
なおこの現時点とは、この文章が書かれている時点ではなく、この文章を
読んでいる瞬間なので、読んでいる方は注意されたし

AIが人間を越えたら、自然保護のためにも人類を生かす気がするけどな
多すぎるから淘汰はありそうだけど

AIが自然のメカニズムを解明するまでには至らんだろ
すると人類もなにかの役に立ってるかもしれんと生かす方向になりそうなもんだが

いろいろ考えられているけど、最後の一文がこの記事のタイトルになってるみたいだな

論文の結論の最後から
　これらの仮定のほとんどすべては論争の余地があるか、おそらく回避可能ですが、
ここで私たちが主張したことは、それらが成り立つ場合、次のとおりです。
十分に高度な人工エージェントが目標情報の提供に介入し、壊滅的な結果をもたらす
可能性があります。

完結な終わり方で宜しい、翻訳はGoogleより

米国ホワイトハウスの科学技術政策局（OSTP）は10月4日、人工知能（AI）の開発などに当たり考慮すべき原則をまとめた
「AI権利章典のための青写真」を発表
OSTPは、AI技術がイノベーションを促進している一方、職場や医療機関、司法システムなどにおいて、
人々が自動化されたシステムによって監視や順位付けされることが増えていると指摘。
また、多くのアルゴリズムが偏見を持ち差別的なデータ処理を行っていると問題視している。
OSTPは今回発表した「青写真」について、大手テック企業の説明責任を追及し、米国人の市民権を保護する取り組みと位置付けている。

OSTPは「青写真」で、AIを用いた自動化システムを設計、使用、配備する際に考慮すべき5つの原則を示した。概要は次のとおり。

１　安全で効果的なシステム：システムは多様なコミュニティーや利害関係者、専門家と協議の上、開発する。
システムを配備する前に試験を行い、リスクを特定・軽減し、システムの監視を行う。これらの保護措置の結果として、システムの配備中止や削除もあり得る。
２　アルゴリズムに基づく差別からの保護：システムが人種、性別、年齢などに基づいて不当な待遇をもたらすことがないよう、
設計者、開発者、配備者はシステムを公平な方法で使用・設計するための継続的な措置を講じる。
３　データ・プライバシー：個人の合理的な期待に合致し、厳密に必要なデータのみを収集する。
システムの設計者、開発者、配備者は個人からの許可を取得し、データの収集、使用、アクセス、移転、削除に関する個人の決定を尊重する。
個人の同意を求める際は、簡潔で、平易な言葉で理解できる内容にする。健康や仕事などに関わる機微なデータについては、より強い保護措置を講じる。
４　通知と説明：システムの設計者、開発者、配備者は、システム全体の機能と自動化が果たす役割、
そのようなシステムが使用されていることの通知、システムに責任を持つ個人・組織などを明確に説明する文書を広く一般に提供する。
これらの情報は最新の状態に保ち、重要な使用例や主要機能の変更についてはシステムの影響を受ける人々に通知する。
５　人間による代替、考慮、予備的措置：システムから影響を受ける個人が必要に応じてオプトアウトし、人間による代替手段を選ぶことができるようにする。
システムの失敗やエラーが起きた場合などに、人間による考慮と予備的措置による救済を受けられるようにする。
なお、これらの原則は、既存の法令や規則を置き換えたり、修正したりするものではなく、法的拘束力は持たない。