ヘッドライン(RSS)

東工大・松岡聡教授「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」

■シンギュラリティは来ない

――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?

脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。

ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。

――雇用に対する影響は、バカなAIでも十分起こるわけですね。

そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。

――人間が輪の中に入る?

人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら氏んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。

同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。

no title

松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)

http://toyokeizai.net/articles/-/185506?page=3

11: 名無し@webensoku 2017/08/23(水) 13:20:13.02 ID:6KU6r9rG0
シンギュラリティだからゼロに向かうてことだろ
あるんじゃないか

13: 名無し@webensoku 2017/08/23(水) 13:23:45.32 ID:6b9tbw1r0
AI「バカって言う方がバカなんですぅ~」
とか言い出す日は近いだろうけど

14: 名無し@webensoku 2017/08/23(水) 13:23:52.25 ID:oFaAy4aT0
バカなAI「そのAIをつくった人間がゴニョゴニョ」

104: 名無し@webensoku 2017/08/23(水) 13:58:20.66 ID:VSjAFzGd0
>>14
ホント、そうなんよ。

ベースとなる知識・思想が偏ると作られたAIが反日に仕上がったり共産主義万歳ってしたりとなる傾向は失敗したAI群から見て取れるんだよね。

15: 名無し@webensoku 2017/08/23(水) 13:24:14.31 ID:uubYqBGA0
2045年にはこのオッサンも85だから
この話が間違ってても誰もツッこまないだろうから気楽なもんだな。

17: 名無し@webensoku 2017/08/23(水) 13:25:18.47 ID:SL1ydvyr0
得意分野が違うんだよな。
だから、互いを補佐すれば上手く行く。

20: 名無し@webensoku 2017/08/23(水) 13:27:15.66 ID:zv9yQt1r0
シンギュラリティで人間がAIに従って当然の時代に
安物のCPUに安物のAIが混じってくるのは怖い

21: 名無し@webensoku 2017/08/23(水) 13:27:21.61 ID:W0lJguAi0
擬似的な模倣、これは人間を超えない根拠になるのか?

24: 名無し@webensoku 2017/08/23(水) 13:29:42.78 ID:AuseE/H/0
「知的な」判断は、人間でもそもそも難しいので

でも、ただの条件分岐で解決できる問題が多いのも確か

25: 名無し@webensoku 2017/08/23(水) 13:31:22.91 ID:JT2ZR0og0
AIは学習するんだから、いつかは人間の脳を超えるでしょ。

27: 名無し@webensoku 2017/08/23(水) 13:32:11.68 ID:QKLkJTOF0
脳を超えるんじゃなくて、人間の能力を超えるって話だから
脳の様な構造に拘る必要はないんでないの?

コンピュータはヒラメキみたいなもんじゃなくて、総当りで正解を出すんだろうけど

30: 名無し@webensoku 2017/08/23(水) 13:32:39.64 ID:XyrKTqB10
人間がバカやらかす可能性が遥かに高い

31: 名無し@webensoku 2017/08/23(水) 13:32:55.82 ID:ZWLCpf1Y0
既に馬鹿な人間がいくつも危険な事態を引き起こしてきたじゃないか
だったらAIが同様のことをしても大して変わらん

32: 名無し@webensoku 2017/08/23(水) 13:33:16.12 ID:1ViR5k9X0
オマエラ、審判の日はいつだと思う?

33: 名無し@webensoku 2017/08/23(水) 13:33:32.24 ID:Q8Xj5YT80
これからの人間はcompめちゃつよの無理ゲーをやらされることになるのけ?(・ω・)

37: 名無し@webensoku 2017/08/23(水) 13:36:31.00 ID:pxPs2aiP0
>>33
SNKは時代を先取りしていたわけだな

36: 名無し@webensoku 2017/08/23(水) 13:35:47.62 ID:SezrqVxM0
疲れも無しに努力し続けるんだからいつかは越えるだろ

875: 名無し@webensoku 2017/08/23(水) 18:11:47.56 ID:JskE6Cet0
>>36
電子部品も普通に経年劣化するけどな
生物の疲労と違って回復はしないし

39: 名無し@webensoku 2017/08/23(水) 13:37:10.45 ID:3s9oKdP00
今よりさらに進化した人工知能なら
悪意を持った人間が悪用しようと思えばとんでもない事態を引き起こせそうだわな

41: 名無し@webensoku 2017/08/23(水) 13:38:11.01 ID:SezrqVxM0
そもそも人間(有機知性体)は
無機物の知性体を作るために産み出されたんだよ。

43: 名無し@webensoku 2017/08/23(水) 13:38:55.17 ID:/Pe619B60
マシンスペック次第って言っとけ

44: 名無し@webensoku 2017/08/23(水) 13:39:41.62 ID:TOGiofmY0
松岡先生は、本当の専門家ですもんね
インチキAI専門家が多すぎて

71: 名無し@webensoku 2017/08/23(水) 13:49:18.50 ID:NQsNec+l0
>>44
えぇ…
松岡センセがAIの専門家なら世の中にAIの専門家が溢れかえってることになるのでは?

47: 名無し@webensoku 2017/08/23(水) 13:40:55.73 ID:atWm8VGk0
株価が上がるから
人工知能は盛り上がってるだけだぞ。

いずれ崩壊する

49: 名無し@webensoku 2017/08/23(水) 13:42:43.91 ID:NIGWWWik0
仮想現実に逃げ込めばいいのかな?

50: 名無し@webensoku 2017/08/23(水) 13:43:48.98 ID:iCpOWM9G0
技術的な間違いはむしろ減るかもしれないけど、
人の感情を逆なでするようなことをどんどんやりだす可能性はあるよね

AIの適用領域みたいなのをちゃんと決めておく必要があると思う

54: 名無し@webensoku 2017/08/23(水) 13:45:15.13 ID:ctvehmLt0
今の人口知能は前世代の知性の模倣という
ファンタジーを諦めたから成功した

シンギュラリティなんてバズワードでしかない

59: 名無し@webensoku 2017/08/23(水) 13:46:18.32 ID:y6vjslMg0
人間の脳が複雑過ぎてよくわからないから、AIが人智を上回ってるのかどうかもわからない。
ということ?

60: 名無し@webensoku 2017/08/23(水) 13:46:46.96 ID:7Lv2d0mp0
AIの問題は計算過程が膨大で
人間に経過が理解できない事
なぜそうなったかが人間には分からず結果だけ出される

64: 名無し@webensoku 2017/08/23(水) 13:48:01.07 ID:JUPJ70vV0
言ってる事が矛盾だらけで草

67: 名無し@webensoku 2017/08/23(水) 13:48:26.91 ID:ctvehmLt0
知性で一番簡単な例は生成文法だけど
これも仮説が蓄積しているだけで
何も積み上げられていない。

言語の知見は莫大に得られたがそれだけ

68: 名無し@webensoku 2017/08/23(水) 13:48:35.41 ID:rZzT58yd0
まあ人間の代わりに働いてくれるアンドロイドは出来ないってこった

83: 名無し@webensoku 2017/08/23(水) 13:52:38.28 ID:XtT6eiYi0
シンギュラリティは確実に起こりつつあるよ。
人工知能研究で米中から周回遅れになっている日本の馬鹿な研究者が認識して無いだけ。

92: 名無し@webensoku 2017/08/23(水) 13:55:35.16 ID:0QLNvb9y0
いや、来るだろ

30年前は、将棋でコンピュータが人間に勝つことはあり得ないって
自信満々に科学者が言ってたぞ

96: 名無し@webensoku 2017/08/23(水) 13:56:57.02 ID:ctvehmLt0
人口知能でできることが大したことじゃ
ないからね。50年後も同じです。

シェアする

  • このエントリーをはてなブックマークに追加

フォローする