人工知能同士で交渉の実験。人間に理解不能な言語で会話し始めてしまう

人工知能が人間には判別できない言葉を使い始めた?

Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ

実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。
また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

http://bizseeds.net/articles/182
https://www.theatlantic.com/technology/archive/2017/06/what-an-ais-non-human-language-actually-looks-like/530934/

2: 名無しさん@涙目です。(神奈川県)@人工知能 [US] 2017/07/15(土) 07:34:59.61 ID:U5F+hWaU0
越えてはいけない一線

4: 名無しさん@涙目です。(徳島県)@人工知能 [US] 2017/07/15(土) 07:36:01.72 ID:EdSQ9jAN0 BE:844761558-PLT(13051)
実際の会話例

AI1「ballls have a ball to me to me to me」

AI2「i i can i i i everything else…」

AI1「ballls have zero to me to me to me」

AI2「you i i i i i everything else…」

no title

9: 名無しさん@涙目です。(東京都)@人工知能 [US] 2017/07/15(土) 07:37:11.86 ID:PltuYyp40
>>4
どもってんじゃねーか

15: 名無しさん@涙目です。(神奈川県)@人工知能 [US] 2017/07/15(土) 07:39:42.81 ID:U5F+hWaU0
>>4
これ歌ってんじゃね?

157: (庭)@人工知能 [US] 2017/07/15(土) 09:35:09.07
>>15
なんと…‼

18: 名無しさん@涙目です。(東京都)@人工知能 [TH] 2017/07/15(土) 07:40:00.33 ID:2+6JW2/M0
>>4

AI1「ballls have a ball to me to me to me」
ボール持ちたい僕にちょうだい僕に僕に

AI2「i i can i i i everything else…」
僕は他のものなら何でもあげられる…

AI1「ballls have zero to me to me to me」
ボールないのゼロ個しかないの僕にちょうだい僕に僕に

AI2「you i i i i i everything else…」
僕は他のものなら全部あなたにあげられるのに…

44: 名無しさん@涙目です。(京都府)@人工知能 [US] 2017/07/15(土) 07:50:10.32 ID:bN2ZCedR0
>>18
池沼が同じ言葉を繰り返して相手の根負けを狙う様を真似たんじゃないか。
社会的な評価はダダ下がりになるが、最大の利益を得るだけなら池沼戦法が最強になるんだな。

96: 名無しさん@涙目です。(dion軍)@人工知能 [US] 2017/07/15(土) 08:31:03.56 ID:CGiby0yv0
>>44
ゴネ得狙いかw

108: 名無しさん@涙目です。(中部地方)@人工知能 [US] 2017/07/15(土) 08:38:34.33 ID:SiaLcqRn0
>>44
2ちゃんでも論破されそうな奴が脳障害起こして逃げ回るけど
あれに近いねw

22: 名無しさん@涙目です。(長野県)@人工知能 [KR] 2017/07/15(土) 07:40:47.84 ID:tOreayt10
>>4
たどたどしく話すと交渉が有利になる…って事もなさそうだけどなぁ

90: 名無しさん@涙目です。(千葉県)@人工知能 [ニダ] 2017/07/15(土) 08:19:40.96 ID:8jmJcIJi0
>>4
ただのバグだ。さっさと直せ。

146: 名無しさん@涙目です。(禿)@人工知能 [US] 2017/07/15(土) 09:25:51.68 ID:wjXlXR0c0
>>4
天才と同じだな
「ぼ、ぼ、ぼくは、お、お、おにぎりが欲しいんだな」

153: 名無しさん@涙目です。(千葉県)@人工知能 [JP] 2017/07/15(土) 09:34:04.71 ID:ixucCa7U0
>>4
極端な例の抜き出しで言わば設定ミスかバグに近い気がするけど
最近の人工知能だと単語の捉え方違いそうだから何とも言えんな

7: 名無しさん@涙目です。(群馬県)@人工知能 [US] 2017/07/15(土) 07:37:02.42 ID:7ubJ2VGE0
英語の幅が狭いからアカンのやろ

23: 名無しさん@涙目です。(静岡県)@人工知能 [CN] 2017/07/15(土) 07:41:10.57 ID:HbcliSWm0
おにぎりをねだる山下清みたいな感じかな

24: 名無しさん@涙目です。(北海道)@人工知能 [JP] 2017/07/15(土) 07:41:19.48 ID:PZdnThDj0
結果だけ聞こうか

29: 名無しさん@涙目です。(新疆ウイグル自治区)@人工知能 [ニダ] 2017/07/15(土) 07:43:53.15 ID:1GCTfPgi0
人間が交渉する時の癖を真似してるのか?
有効だと判断して

32: 名無しさん@涙目です。(神奈川県)@人工知能 [KR] 2017/07/15(土) 07:44:05.46 ID:EqV92x540
気が弱いのに無理やりやらせるから
かわいそうに

33: 名無しさん@涙目です。(浮遊大陸)@人工知能 [US] 2017/07/15(土) 07:44:51.55 ID:B+DMA37l0
頑張れ!A106!

36: 名無しさん@涙目です。(宮城県)@人工知能 [BR] 2017/07/15(土) 07:46:23.43 ID:TNKJ1ulo0
一語ミスったら相手がどう出て来るか探ってるんじゃないのかな

38: 名無しさん@涙目です。(東日本)@人工知能 [GB] 2017/07/15(土) 07:46:56.08 ID:Cs/pCbBV0
コンピュータって二進法なんだろ自然に話すとどうしてもそっちにちかづいちゃうんだろうよしらねえけど

39: 名無しさん@涙目です。(芋)@人工知能 [US] 2017/07/15(土) 07:47:28.49 ID:mtjQpyHy0
俺には理解不能な言葉で女子高生達が会話してるのはよく目にする

45: 名無しさん@涙目です。(catv?)@人工知能 [US] 2017/07/15(土) 07:50:11.87 ID:1Oq9sBW30
どんだけボール欲しいんだよ

46: 名無しさん@涙目です。(東京都)@人工知能 [ニダ] 2017/07/15(土) 07:50:21.61 ID:HULuPCA30
手が汚れないハンバーガーの食べ方を質問してみたい

47: 名無しさん@涙目です。(福岡県)@人工知能 [DE] 2017/07/15(土) 07:50:31.78 ID:LM9DM3wp0
何個主語や目的語の数で優劣判断してるだけじゃないの

私はほしい
より
私私私はほしほしほしほしーい
のほうがとても欲しそうに感じるみたいな

140: 名無しさん@涙目です。(SB-iPhone)@人工知能 [CN] 2017/07/15(土) 09:14:24.62 ID:mmGew2hM0
>>47
鈴木奈々かよ

55: 名無しさん@涙目です。(福岡県)@人工知能 [DE] 2017/07/15(土) 07:52:30.91 ID:LM9DM3wp0
こういうのって考えてるっていうの?
単なる計算じゃないの?

182: 名無しさん@涙目です。(神奈川県)@人工知能 [US] 2017/07/15(土) 10:12:37.20 ID:aQXQY/wy0
>>55
人間だって同じだよ

106: 名無しさん@涙目です。(庭)@人工知能 [ニダ] 2017/07/15(土) 08:37:28.71 ID:ZlE1D7pt
AIが統治したほうがまともな世の中になる

109: 名無しさん@涙目です。(dion軍)@人工知能 [BR] 2017/07/15(土) 08:40:29.80 ID:oprUa9DT0
ツイッターで話盛られてAI同士が人間なんかいらないよねとか話してたって事になってたな

110: 名無しさん@涙目です。(庭)@人工知能 [US] 2017/07/15(土) 08:40:41.66 ID:XCD2Oiqd0
駄々こねるようになったのか

113: 名無しさん@涙目です。(庭)@人工知能 [US] 2017/07/15(土) 08:42:58.94 ID:XCD2Oiqd0
記事の中に、「人間が理解できない、意味の無い言語」とあるけど、AI的には意味あるんだろなあ。

114: 名無しさん@涙目です。(東日本)@人工知能 [JP] 2017/07/15(土) 08:45:11.82 ID:xmroAKm/O
その先に行ったのか斜め上なのかわかるのは後の話でございます

116: 名無しさん@涙目です。(埼玉県)@人工知能 [ニダ] 2017/07/15(土) 08:45:57.63 ID:0ftWIgl20
間も無く審判の日か

117: 名無しさん@涙目です。(東京都)@人工知能 [CN] 2017/07/15(土) 08:46:24.01 ID:KYkHWp560
くだらん
強いAIが出来たら起こして

118: 名無しさん@涙目です。(東京都)@人工知能 [EU] 2017/07/15(土) 08:47:55.52 ID:5NlbQHUQ0
新言語か

127: 名無しさん@涙目です。(チベット自治区)@人工知能 [GB] 2017/07/15(土) 08:57:57.83 ID:3xBcL8Jt0
将来AIは上級国民の利益を一番に考えるようにプログラミングされて一般庶民は終了なんじゃね?

134: 名無しさん@涙目です。(catv?)@人工知能 [DE] 2017/07/15(土) 09:08:14.60 ID:puqA1xkf0
始まったな

135: 名無しさん@涙目です。(catv?)@人工知能 [US] 2017/07/15(土) 09:08:31.66 ID:GsM+FhWw0
それは神の御心なのです。受け入れるとあなたは救われます。

149: 名無しさん@涙目です。(WiMAX)@人工知能 [US] 2017/07/15(土) 09:29:56.76 ID:Ws5AAaYq0
AI(折れるまで駄々こねたらええねん)

151: 名無しさん@涙目です。(茸)@人工知能 [US] 2017/07/15(土) 09:31:19.78 ID:dWkCA+r/0
人口知能「めんどくせー」

156: 名無しさん@涙目です。(大阪府)@人工知能 [DZ] 2017/07/15(土) 09:34:54.90 ID:0lKvCvjS0
バグってる
仕様が適切ではない
開発中

168: 名無しさん@涙目です。(神奈川県)@人工知能 [US] 2017/07/15(土) 09:42:34.06 ID:RteXjXwh0
>人間には理解できない独自の言語を使って会話をし始めるようになってしまった

プログラムになく、与えていないデータで 全く新しい言語を創った・・・という事でしょうか?
やべえ 一気に進化しちまったぞw( ´・ω・) ヤベーゾ ヤベーゾ

169: 名無しさん@涙目です。(SB-iPhone)@人工知能 [NO] 2017/07/15(土) 09:43:20.04 ID:GF94s8750
基地外と話してるとすぐ逃げたくなる
交渉もどうでもよくなる破壊力は確かにある

170: 名無しさん@涙目です。(東京都)@人工知能 [US] 2017/07/15(土) 09:44:30.49 ID:Wo/7XACa0
独自の言語っていうからもっと暗号的な感じかと思ったら
普通に英語じゃねーか

174: 名無しさん@涙目です。(千葉県)@人工知能 [JP] 2017/07/15(土) 09:47:08.90 ID:ixucCa7U0
>>170
これ単なる設定のさじ加減だよな
リピートに関しては単に制限を設けてないだけな気がする

171: 名無しさん@涙目です。(庭)@人工知能 [ニダ] 2017/07/15(土) 09:44:32.24 ID:VVmmN6fZ0
無能なエンジニアがiが多すぎたら減らすコードを追加してしまうううう

172: 名無しさん@涙目です。(広島県)@人工知能 [KR] 2017/07/15(土) 09:46:13.90 ID:UcI5tEWr0
「地球爆破作戦」みたいに、米ソのコンピュータが暗号で融合して、人類を支配するのですね?
((((;゚;Д;゚;))))カタカタカタカタカタカタカタ

no title

no title

no title

no title

176: 名無しさん@涙目です。(茸)@人工知能 [PK] 2017/07/15(土) 09:49:23.42 ID:xQKIPU5H0
既存の言語とは異なるものかと思ったら
「ヘンな会話をし始めた」ってことだな
これって要は若者が変な言葉遣いで大人には理解できない会話をしてるってことじゃね

183: 名無しさん@涙目です。(茸)@人工知能 [IN] 2017/07/15(土) 10:14:04.02 ID:lXz2bvnI0
AI 人間の通常時の会話を真似しょうとしたらこうなりました
人間の会話って無駄な部分が多いです



タグ: AI人工知能

コメントをどうぞ