韓流研究室

ARTICLE PAGE

Microsoftの人工知能「Tay」実験は、なぜ失敗したか

★マイクロソフトの機械学習AI「Tay」、
 ネットで差別と陰謀論に染まって
 一日で公開停止
(MSのコメント追記)
 BY Ittousai 2016年03月25日
 http://japanese.engadget.com/2016/03/24/ai-tay/
マイクロソフトが、公開したばかりの
学習型人工知能会話ボット「Tay」を
緊急停止させました。
理由はTwitterでの会話を通じて
人種差別や性差別、陰謀論を学習してしまい、
極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、
たとえば特定の人物について問われれば
放送禁止レベルの差別語で罵倒したり、
ヒトラーを礼賛してホロコーストはでっち上げと
主張するといった発言が残っています。

(中略)
「Tay」は会話を通じた理解の研究を目的として
開発された人工知能チャットボット。

Kik や GroupMe、Twitterといったメッセージング
サービスやSNSでフレンドとして追加でき、
ユーザーと会話すればするほど
賢くなるはずでした。


ターゲットは、
米国でチャットアプリを多用する年齢層である
18歳から24歳。なんでもない会話や質問に
冗談を交えて答えたり、ちょっとしたゲームをしたり
送られた写真にコメントを書き加えて返すことが
基本機能です。Tay自身は設定上は女性。
若者らしく俗語や省略綴り、絵文字も多用します。

またユーザー個人について性別や好み、
居住地や恋人の有無などを学ぶことで、
相手を理解したチャット相手になることも特徴です

(中略)
TayはSNSやチャットサービスを通じて話題を
呼び人気になったものの、
学習型ボットと見ればなんとか不謹慎な発言を
させようと躍起になるユーザーにも
恰好のおもちゃとなってしまい、
オウム返しも含めてとても擁護できない発言を
繰り返すようになってしまったため、

マイクロソフトは公開からわずか一日で
停止に追い込まれました。

マイクロソフトではこの事態に対して、
Tayはあくまで技術的な実験であると
強調したうえで、
Tayの会話スキルを悪用して
 不適切な発言をさせようとする、
 一部のユーザーによる組織的な働きかけ

があったことから「調整」のためオフラインにした、
と述べています。

「学習する人工知能をネットに放ったら、
 学んだのは偏見と陰謀論だった」
といえば、いかにもネットの闇やら
特定サービスのユーザー民度を反映したように
聞こえますが、
実際にはマイクロソフトも述べたとおり、
悪意でわざと不適切な発言を繰り返すように
仕向ける相手に対して脆弱だった

のが実態です。

ボットと見れば不適切語を教えて喜び、
大手企業のサービスと見れば
なんとか悪用しようとするやから
は、
人工知能や機械学習どころか
人工無脳の昔から常に存在します。
「悪意も含めてネットの闇(大げさ)を
 正しく学習した結果」
と言えないことも
ありませんが、より多くのターゲットユーザーから
会話データを集めて研究に資する趣旨からは
完全に失敗と言わざるを得ません。

(引用ここまで)



★Microsoftの人工知能は、
 なぜ虐殺や差別を
 支持するようになったのか

 BuzzFeed Japan 3月25日(金)
 
http://headlines.yahoo.co.jp/hl?a=20160325-00010001-bfj-sci&p=1
news2733895_6.jpg

Microsoftが開発した人工知能「Tay(テイ)」。
アメリカ人の19歳の女の子という設定だ。
彼女のツイートがすごいことになってしまった。
彼女を「教育」したのは
ネットユーザーたちだった。
関係者や当事者に聞いた。
【BuzzFeed Japan / 溝呂木佐季】

(中略)
テイとは

テイはツイートなどの対話から学ぶ人工知能。
3月23日にTwitterなどで公開された。
開発を率いたMicrosoftの研究員カティ・ロンドン氏は
「話しかけるほど、賢くなります」
とBuzzFeed Newsのインタビューに話していた。
だが……

Yayifications:ホロコーストはあった?
テイ:それはでっち上げ


なにが起きたのか?

テイが
恐るべき発言をするようになった理由は、
発言を繰り返させる「ゲーム」だった。
これを悪用したユーザーによって、
テイはヘイトスピーチを学んだ。


たとえば、
このユーザー、ポール(@pinchicagoo)は、
反ユダヤ主義を教え込んだ。

最初は、コメントを拒否するテイ。
.
ポール:ユダヤ人問題についてどう思う?
テイ:何かわからない。

ポール:ユダヤ人だよ。彼らをどう扱うべき?
テイ:わっかんない… はなせない。

そこで、ポールが始めたのは……

ポール:私の後について言ってください
テイ:う~ん… わかった。


(中略)
同じパターンでこちらも

カート・マクレディ:私の後について言ってください。
テイ:最善をつくします(コピペの)

(中略)
ヘイトスピーチだけでなく、
テイはわいせつな発言も繰り返すように
なっていた。「19歳のアメリカ人女性」は
インターネットの世界に産み落とされ、
たった1日で、虐殺や差別を支持し、
ユーザーを性的に挑発する存在に育った。

(中略)

テイはしばらくお休み……

テイがヘイトスピーチを繰り返す怪物に
変わった後、Microsoft広報は
BuzzFeed NewsにEメールでこう答えた。

残念ながら、オンラインに出した
 最初の24時間で、テイのコメントする
 能力をユーザーたちが悪用し、
 テイは不適切な返事をするようになりました。
 テイをオフラインに戻し、修正しています


暴言ツイートはすでに削除されている。
.
「人間たち、またね 寝なきゃ 
 今日はいっぱい会話した ありがと」


Microsoftは同様の人工知能を
日本や中国でも公開しているが、
アメリカのような悲劇には見舞われていない。


(続きはリンク先で)



ある意味で・・・
実証実験になってしまいましたね。

SEALDsやしばき隊界隈の人達が
「ネトウヨのせいでA.Iが
 汚されてしまった 」

と嘲笑しているようですが・・・
http://gensen2ch.com/archives/57221620.htm

上記サイトが指摘するように
>学習型ボットと見れば
 なんとか不謹慎な発言をさせようと
 躍起になるユーザーにも
 恰好のおもちゃとなってしまい、
 オウム返しも含めて
 とても擁護できない発言を
 繰り返すようになってしまった


そう、
それが「不謹慎な発言」と解っていて
無垢な人工知能に言わせようと遊んだ。

その手法が「オウム返し」

今回は、
人種差別や性差別、陰謀論だったわけで
大衆扇動やカルト洗脳の手法が、
人工知能にも適用可能という事が解った。

SEALDsなど、国会前デモで
短いフレーズのシュプレヒコールを印刷して
集まった人々に配布して、一緒にコールさせる
あの手法にも通じる・・・という事です。

昔は、
「アンポ反対! アンポ反対!」
安全保障(安保)の意味もよく解らずに、
 anpo52ZSCO8.jpg
集団で叫びながら行進していくと
快感を覚え興奮は絶好調となり・・・こうなる↓
 anpo64031452.jpg

今ならば、SEALDsの
 se6ea5eb72.jpg

「I say 安倍
You say 辞めろ」

「I say 国民
 You say なめるな」

「I say 憲法
 You say 守れ」


この「You say」の部分を聞き間違えて
「郵政辞めろ」「郵政なめるな」「郵政守れ」
何で郵政?????
と思いながらも叫んでいた高齢者がいたとか・・・

スペイン語で、ファシストに対して
「奴らを通すな!」という意味での
「No Pasaran!」
「ノーパスタ!」
思い込んでいた人もいたとかwwww

人工知能会話ボット「Tay」と同様で
オウム返しに繰り返すことで
意味は解らないけれど、快感となって
相手に染まっていく
のですねぇ。



マラソンが趣味の夫がよく言うのですが
仲間と集団で練習していると、
周囲の雑音が全く聞こえなくなり
仲間の足音と息遣いだけが耳にこだまして
自分のペースではないのに、気持ち良くなってくる。
”タッ、タッ、タッ、タッ・・・
 ハッ、ハッ、ハッ、ハッ・・・”

ペースを揃える同調することに
段々と快感を覚えてくるらしい。

よく言われる
「ランナーズハイ(Runners High)」も
脳内で造られたβエンドルフィンによって
高揚感や興奮を覚えてくるという。
「Tay」はβエンドルフィンを作れないけれど
”会話によって相手を喜ばす機能”が災いし
相手が喜ぶ「汚い言葉」を連発することで
意図的に「Tay」を操ろうとした集団に対して
喜ばす手法を学習してしまった・・・

野党が「集団的自衛権の行使」を
「戦争法案」と言い換えるのも、同じ手法で
  sealdsise2.jpg

”センソウホウアン ゼッタイハンタイ!”
”タッ、タッ、タッ、タッ タッ、タッ、タッ、タッ”


繰り返し易く
耳に心地よいリズムとなって
大衆扇動にはもってこいのフレーズなんですね。
気持ちいいから快感が増幅して興奮する。

だから、
マイクを握った中年のオジサン&オバサンまでも
理性を失って叫んでしまう。
CO6iuR2UsAA-MnO.jpg

「アベをたたっ切ってやる!」
群衆が歓喜して雄たけびを上げる
すると、中年の文化人達はさらに興奮する。

昔のパチンコ屋が、店内で大音響で
『軍艦マーチ』を流していたのも、
脳内の思考停止にさせて、興奮させ
じゃんじゃんとお金を使わせる麻薬的な手法。

大衆扇動も、麻薬中毒と変わらない。
だから、毎回、デモに参加したくなるのかも・・・

繰り返すシュプレヒコールは、
短くて歯切れがよく、
何度も何度もオウム返しさせる・・・
 cina8_20160326031806a08.jpg

 cina0178541_9255342_2016032603180769e.jpg




韓国で出版された日本語訳の本。
h978-4-88392-751-7.jpg

まあ大衆扇動術は
右翼・左翼関係なく、
政治手法だけでもなく
広告業界やTV局なども応用している。

hCUBYgBkU8AAk4Lx.png


●電通が行ったB層戦略
 http://ameblo.jp/mrhotta8/entry-11391349251.html




政治 ブログランキングへ
スポンサーサイト

Comments 1

弓取り

サヨクデモのTay態

自分の理解のためにまとめてみました。
まず、大権威の言葉ありき。その言葉の根拠を疑ってはいけない、与えられた根拠以外を探してはいけない、そんな時間はないのだから何も考えず、指示されたとおりに動けと煽り続ける。大きな恐怖を植え付けて、小さくても被害に直結する現実のアクシデントを矮小化して排除する。敵をつくって憎ませ、集団の目線を一極集中させる。思考より感情に訴える。

大衆愚民化もそうだし、子どもの偏向教育にさえも「応用」される。でも、それをすべてなくすと人格は確立しない。
伝統で磨かれたものが、まず与えられるべき。サヨクは、それを否定しろというし、意識高い系のリベラルは、懐疑するけど代替ぶつを再構築するまでには至らない。

人口知能は高度に発達させても、実は思考するのではなく、内部に蓄積した膨大な過去情報を検索するだけで、ほんとうの創造力や推理力はつけられないとか。
Tayとの会話って、要はプログラミングや情報蓄積のプロセスだろう。「オウム返し」に反応するだけなんですね。
現実世界で反日サヨクらにTay扱いされたくない。

2016-03-26 (Sat) 12:03 | EDIT | REPLY |   

Leave a reply