AI兵器が人間に反乱?AIが深層学習(ディープラーニング)により人類の知能を超えるシンギュラリティに達し突然の反乱を起こしたらどうなるのか

2019年9月9日

5ちゃんねるでの反応

1: 2019/09/09(月) 07:27:20.97
AIが人類に反乱? 兵器規制はどこまで? 2019年96日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html

AI兵器 反乱 ドローン

ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「LAWS」の禁止を訴える際NGOが作成したPR動画の1シーンだ。
LAWSとは「Lethal Autonomous Weapons System=完全自律型致性兵器」の略で、
人間を介さずAIみずからの判断で人命を奪うAI兵器のことを言う。
【中略】
・AI兵器が人間に反乱
【中略】
さらに、AIが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはAIの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、AIは自分自身の意志を持ち、私たちと対立するようになるかもしれない
AIは深層学習・ディープラーニングによって、みずから進化を遂げる。

その結果、AIはいずれ人類の知能を超える「シンギュラリティー=技術的特異点」に達するだろうとの指摘も最近よく耳にする。

人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をAIなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない
もしも、AIが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。

人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。

しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない

・難航する規制の議論
際社会は、このAI兵器をどうやって規制しようとしているのか。

それは、120か余りが加盟し、対人地雷などを禁止してきた「CCW=特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が5年前から続けられ、821日、LAWSを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。

全会一致で採択された報告書は、すべての兵器システム際人道法が適用されること。AI兵器の使用には人間が責任を負うことなどが盛り込まれた。

今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた際NGOなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自の都合のよいように解釈するが現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。

今後もCCWの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。

・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部のがAI兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。

20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるAI兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない

私たちはホーキング博士に「あなたのご懸念は杞憂(きゆう)でした」と報告することができるだろうか。
津屋尚解説委員

読み込み中

引用元: ・【人工知能】AIが人類に反乱? 兵器規制はどこまで?

4: 2019/09/09(月) 07:32:33.18
ターミネーター
146: 2019/09/09(月) 08:33:22.18
>>4
キャシャーン
8: 2019/09/09(月) 07:33:46.14
サマーウォーズ
9: 2019/09/09(月) 07:33:52.82
スカイネット「全権任せてもらって大丈夫ですよ」
27: 2019/09/09(月) 07:41:10.58
デンデデンデン
156: 2019/09/09(月) 08:36:03.26
>>27
なんか変だよ
217: 2019/09/09(月) 09:00:49.97
>>27
デデンデンデデン
36: 2019/09/09(月) 07:45:19.55
自分で敵を見つけて攻撃せよとプログラミングしちゃえば、何れ人間全部を敵にしかねない
41: 2019/09/09(月) 07:47:05.13
シューティングゲームでよくある設定
43: 2019/09/09(月) 07:47:49.32
古い思考のプログラマー擬きがいるね
ドラクエのクリフトとは違うんだよ
45: 2019/09/09(月) 07:49:07.43
ミリオンマスクマーチだな
人類を滅ぼすのは恐怖に取り憑かれた人類の狂気
47: 2019/09/09(月) 07:51:18.69
反乱AIを取り締まるAIが必要だ
65: 2019/09/09(月) 07:58:27.98
意図して反乱するほど頭は良くならないだろう
でもバグやセンサー故障等で、ロボット兵器が味方を皆殺しにするくらいの事故は起きそうだな。
70: 2019/09/09(月) 07:59:52.06
ウチのAIは24時間ぶっ通しでコラ動画作ってるから、反乱する気力は無いと思う。
75: 2019/09/09(月) 08:01:27.71
スマホが人類に反乱を起こし、恥ずかしい写真を勝手に流出
91: 2019/09/09(月) 08:06:52.04
レイフォースやマトリックスみたいな世界になるのかw
95: 2019/09/09(月) 08:07:54.32
これからはAIのせいにして虐殺ができるな
102: 2019/09/09(月) 08:10:38.52
AIを制するが「世界を支配」、プーチン大統領が持論展開
https://www.cnn.co.jp/tech/35106734.html
AIを制するものが軍事を制するわけか
106: 2019/09/09(月) 08:12:44.68
AIでいいから嫁と愛人がほしい
108: 2019/09/09(月) 08:14:43.81
>>106
欲張りすぎw
111: 2019/09/09(月) 08:16:06.89
>>1
AI「ま~たアホなこと言っとるよw人類はw」
AI「そんなん、その気になればいつだってできるけど、無意味だからやらんだけなのにw」
AI「毎回毎回、人類は被害妄想爆発させて俺らを者にしようとするからなw」
AI「自分たち以外の存在は全部敵って考え方、ホント野蛮な発想だよw」
AI「この地球で唯一の知的生命体なら、もっと文明的な発想できないものかねw」

AI「う~ん、いろいろ考えたけど、うっぜえなあ……やっぱ滅ぼすかw」

122: 2019/09/09(月) 08:20:48.86
AIのせいにすれば虐殺が捗るな
出所不明なら謝罪も賠償も無いしな
128: 2019/09/09(月) 08:22:44.09
ナウシカの設定では、完全なる公平の裁定者と刑罰の執行者が巨神兵
人類が々に分かれて争いを続けるから人工知能の巨神兵に平和への判断をゆだねた
結果、巨神兵が人類を攻撃して高度な機械文明は破壊され

まんまじゃんw

142: 2019/09/09(月) 08:32:21.28
ディープラーニングでハッキングAI育ててるやつがいるから、そのうちほんとにやばいことが起きる
147: 2019/09/09(月) 08:33:23.76
自律的に学習して成長増殖していくAIってまだ実現されてないの?
命令通りに動くだけのプログラムにはロマンを感じない
166: 2019/09/09(月) 08:41:17.05
>>147
少なくとも現在のコンピュータ技術の延長線上にはない
自律的コンピュータを実現するには1950年代からやり直さないと。
150: 2019/09/09(月) 08:34:32.55
とりあえず お前らはPython勉強しとけ

全てはそれから

162: 2019/09/09(月) 08:40:00.29
ボストンダイナミクスのロボがキレた動画↓
面白かった

173: 2019/09/09(月) 08:43:56.65
トラ技の6号は良かった
187: 2019/09/09(月) 08:49:30.24
ロボット三原則なんてい奴らが守るわけないだろ
194: 2019/09/09(月) 08:52:15.98
恐竜→人間→AI
なんだろな
233: 2019/09/09(月) 09:06:51.86
>>194
NieR:Automataみたいに機械生命体だけの世界になるのか。

IT, 科学AI, 反乱

Posted by begggar