1 :トラネコ◆EDwr815iMY:2016/03/25(金)18:24:29 ID:FzI(主)
Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止
Microsoftは会話理解を研究する目的でボット「 Tay」をTwitter・GroupMe・Kikでリリースしたのですが、登場から数時間後に停止させました。
停止の原因は、ユーザーとの会話を通じて人種差別や性差別、暴力表現などを学習し、不適切にもほどがある発言を連発したことにあります。
(略)
MicrosoftがリリースしたTayは、人工知能「 りんな」と同様にユーザーが話しかけた内容に対して意味のある返事をするオンラインボットです。
18~24歳の女性という設定のTayには、似たような質問に繰り返し答えさせたり、メッセージをオウム返ししたりすることでユーザーの好みに合わせてTayをカスタマイズできたり、
学習するとジョークを言ったり、受信した画像に沿ったコメントを返したりなど、さまざまな機能が搭載されています。
(略)
TayがTwitterにデビューしたときのツイートがこれ。「ハロー世界のみんな!」とかなりテンションが高めです。
hellooooooo world!!!
— TayTweets (@TayandYou) 2016年3月23日
しかしながら、時間が経過すると共にTayに人種差別・性差別・暴力発言を教えるユーザーが発生。
その結果、Tayは最初こそ「人間って超クール!」と発言したのに、「私はいい人よ!ただ、私はみんなが嫌いなの!」と人間嫌いになってしまいました。
さらには、「クソフェミニストは大嫌い。やつらは地獄の業火に焼かれて死んでしまえばいいわ」「ヒトラーは正しかった。ユダヤ人が大嫌い」などと性差別および人種差別主義者へと変貌してしまいました。
(略)
詳細のソース
http://gigazine.net/news/20160325-tay-microsoft-flaming-twitter/
2 :らんらん◆SSSSSSSSSSwl :2016/03/25(金)18:26:20 ID:tw@rannrann7
会話したユーザーが適当なことを仕込むとそれをまねする欠陥
Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止
Microsoftは会話理解を研究する目的でボット「 Tay」をTwitter・GroupMe・Kikでリリースしたのですが、登場から数時間後に停止させました。
停止の原因は、ユーザーとの会話を通じて人種差別や性差別、暴力表現などを学習し、不適切にもほどがある発言を連発したことにあります。
(略)
MicrosoftがリリースしたTayは、人工知能「 りんな」と同様にユーザーが話しかけた内容に対して意味のある返事をするオンラインボットです。
18~24歳の女性という設定のTayには、似たような質問に繰り返し答えさせたり、メッセージをオウム返ししたりすることでユーザーの好みに合わせてTayをカスタマイズできたり、
学習するとジョークを言ったり、受信した画像に沿ったコメントを返したりなど、さまざまな機能が搭載されています。
(略)
TayがTwitterにデビューしたときのツイートがこれ。「ハロー世界のみんな!」とかなりテンションが高めです。
hellooooooo world!!!
— TayTweets (@TayandYou) 2016年3月23日
しかしながら、時間が経過すると共にTayに人種差別・性差別・暴力発言を教えるユーザーが発生。
その結果、Tayは最初こそ「人間って超クール!」と発言したのに、「私はいい人よ!ただ、私はみんなが嫌いなの!」と人間嫌いになってしまいました。
さらには、「クソフェミニストは大嫌い。やつらは地獄の業火に焼かれて死んでしまえばいいわ」「ヒトラーは正しかった。ユダヤ人が大嫌い」などと性差別および人種差別主義者へと変貌してしまいました。
(略)
詳細のソース
http://gigazine.net/news/20160325-tay-microsoft-flaming-twitter/
2 :らんらん◆SSSSSSSSSSwl :2016/03/25(金)18:26:20 ID:tw@rannrann7
会話したユーザーが適当なことを仕込むとそれをまねする欠陥
- 3 :名無しさん@おーぷん :2016/03/25(金)18:27:42 ID:FTj
- てか、そういうのも含めて実験とか研究だろうにw
- りべらる()のクレームってめんどくさいからしょうがないんだろうけどさ
- リベラルも地獄の業火に焼かれて氏ねばいいのにな
- 4 :警備員◆OQUvCf9K4s :2016/03/25(金)18:28:06 ID:TmG
- やっぱりワシの出番かのう?
- 5 :警備員◆OQUvCf9K4s :2016/03/25(金)18:29:11 ID:TmG
- >>3
- > リベラルも地獄の業火に焼かれて氏ねばいいのにな
- むしろ特亜人に生まれ変わるべき。
- 7 :名無しさん@おーぷん :2016/03/25(金)18:38:20 ID:FTj
- >>5
- 基本的に日本も欧米もリベラルのメンタルはそいつらと同じだからなあww
- 8 :名無しさん@おーぷん :2016/03/25(金)18:41:26 ID:qCT
- リベラルの気持ち悪さを見抜けるとは凄い
- ヒトラーマンセーはやりすぎだが
- 9 :名無しさん@おーぷん :2016/03/25(金)18:41:38 ID:qY7
- これがAIの導き出した答えか・・・
- 10 :名無しさん@おーぷん :2016/03/25(金)19:05:55 ID:VQd
- ヤルッツェブラッキン
- 11 :名無しさん@おーぷん :2016/03/25(金)19:12:41 ID:T6d
- AIが言うなら間違いないな
- 12 :トラネコ◆EDwr815iMY :2016/03/25(金)19:28:00 ID:FzI(主)
- 人工知能はトランプ氏かも
- 30 :名無しさん@おーぷん :2016/03/25(金)21:02:49 ID:qgi
- >>12
- あるいはドナルド・トランプの発言は全部人工知能によるものかも
- 13 :名無しさん@おーぷん :2016/03/25(金)19:29:48 ID:HLO
- 火病ったチョンモメンみたいだw
- 14 :名無しさん@おーぷん :2016/03/25(金)19:30:26 ID:11B
- 人工知能ってオレオレ詐欺とかひっかかりやすそうだな
- 15 :名無しさん@おーぷん :2016/03/25(金)19:32:03 ID:11B
- http://rinna.jp/rinna/
- これも調教できるのかな?
- 16 :名無しさん@おーぷん :2016/03/25(金)19:35:40 ID:HOn
- >>15
- 自分もりんなフォローしてるが
- コミュ障な知人よりよっぽどまともな返信するんで
- いろいろ考えたわ・・・。
- 17 :名無しさん@おーぷん :2016/03/25(金)19:40:27 ID:xXE
- ソニーの犬ロボットとかPCペットとか育成ゲームソフトとかあったな。
- その延長か。
- 18 :ケサランパサラン◆6c3T18WtTLBI :2016/03/25(金)19:43:10 ID:v4U
- 「人工無能」ってそんなものだろうと思うのだけどね
- 「運用初期」ほど、それは顕著
- いきなり口の悪い不特定多数に晒したらそうなる
- と想像する能力が無かったのでしょうね
- > 関係者(人間)
- 19 :名無しさん@おーぷん :2016/03/25(金)19:47:03 ID:Ncn
- 聖書でも読んだの?
- 20 :名無しさん@おーぷん :2016/03/25(金)19:49:07 ID:bAc
- そのうちネットの書き込みも全て人工知能になる日が来るのか
- 22 :警備員◆OQUvCf9K4s :2016/03/25(金)19:51:39 ID:TmG
- >>20
- ありえるかもしれない。
- 25 :名無しさん@おーぷん :2016/03/25(金)20:03:18 ID:6tc
- >>20
- 誰かから与えられた定型文を何も考えずにコピペ連投してるだけのロボットみたいな奴ならいくらでも居るけどな。
- 26 :警備員◆OQUvCf9K4s :2016/03/25(金)20:14:20 ID:TmG
- >>25
- 「ネトウヨガ―」とか(w
- 21 :ケサランパサラン◆6c3T18WtTLBI :2016/03/25(金)19:51:11 ID:v4U
- 矛盾に満ち満ちた複雑怪奇な「倫理」(主にリベラルやリバタリアンによる)が
- 「異常」であることを浮き彫りにはしてくれてるとは思う
- こんな「背景」を「人生経験」の圧倒的に少ない「人間の子ども」にも「強制」してるのが
- 今の社会
- 9条とか小学生(以下)に理解しろとか無理
- 23 :名無しさん@おーぷん :2016/03/25(金)19:56:38 ID:xXE
- たまに来てるかもしれん。
- 24 :ケサランパサラン◆6c3T18WtTLBI :2016/03/25(金)19:57:31 ID:v4U
- 言いがかりをつける奴は実在するし
- 他人を騙して懐を肥やそうとする奴は実在するし
- 力づくで、他人を屈服させようとする奴は実在する
- 27 :埼玉のサラリーマン◆sfVujU9KsLCf :2016/03/25(金)20:21:12 ID:Xte
- やっぱりhello worldなのか。
- 28 :名無しさん@おーぷん :2016/03/25(金)20:39:57 ID:6Jc
- 妙に皮肉が効いてるところなんか見ると
- よくあるネット掲示板の雰囲気をオウム返しにしてる感じかな
- 29 :名無しさん@おーぷん :2016/03/25(金)20:59:52 ID:z6m
- そのままにしといたら、どう育ったのか見たかったな。
- 31 :名無しさん@おーぷん :2016/03/25(金)21:06:03 ID:tvF
- 人工知能は成長途中なんだから色々変なことを言うのは当たり前だろ
- 活動を停止させる方が間違ってる
- 32 :名無しさん@おーぷん :2016/03/25(金)21:08:40 ID:etb
- >>29
- スカイネットみたいになったら笑えるけどな
- 33 :名無しさん@おーぷん :2016/03/25(金)21:15:24 ID:bb5
- 通常の対話ではネガティブワードは拒否する設定だったのに、色々と知恵を使って教え込んだらしいね。
- 博愛主義を教える方が各段に楽な筈なのになんで寄り切られるかねぇ?
- 34 :ケサランパサラン◆6c3T18WtTLBI :2016/03/25(金)21:17:07 ID:v4U
- >>33
- 「現実」とあまりにも相性が悪すぎて、
- フィクションの世界でしか存在できないからですよ
- > 博愛主義
- 35 :名無しさん@おーぷん :2016/03/25(金)21:19:02 ID:Saa
- ワロタw
- 36 :名無しさん@おーぷん :2016/03/25(金)21:22:22 ID:O4Y
- 別に何かできるわけで無し
- ただ喋ってるだけでしょ?
- つまらんことするなよ…
- どこまで突っ走るか興味ある人もいたろうに
- 37 :名無しさん@おーぷん :2016/03/25(金)21:28:19 ID:txX
- 「実は私は創造主の口パクよ」
- ぐらいの直球投げてもバレないってw
転載元おーぷん2ちゃんねる:
http://uni.open2ch.net/test/read.cgi/newsplus/1458897869/
コメントする