AIの恐怖

Zazaです。あっという間に、3月も終わりそう……。あがいているばかりで、成果を発表できる状態に、いまだなっておりませんが……、ゆっくりと、ですが進めています！
3月は、Triangle March メンバーの誕生日です。各人おめでとう！（業務連絡）
 

さて、今日は昨年の人工知能に関するニュースについて、です。
 

恐怖の人工知能

2017年夏頃に、「フェイスブックが開発したAI（人工知能）が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた」というニュースを目にしました。
 

先日私は、ちょっと人前で話す機会を持ちまして、この話題に触れようかナ、と思い調べ直したところ、多くの誤解によって、このハナシが独り歩きしている状態だったことに気づきました。
 

まず、「人間には理解できない独自の言語で会話をはじめた」わけではないようです。
この実験では、2つのAIエージェントに「価格を交渉して合意しろ」という目標を設定してスタート。2つのAIが、新たな価格交渉の戦略を生み出すことができるのか、を観るものでした。
AIには使用言語の変更が許されており、当初は英語を使用してコミュニケーションをしていましたが、交渉の過程で、AIは使用言語を徐々に変化させていったのだそうです。
 

次に、「同社はこのプロジェクトを緊急停止させた」というのも、若干ニュアンスが違うようです。
研究者A「AIが使用言語を英語から変更してきたね。なんか俺らにもわからんね。このままじゃ、研究に活用できないだろうし、やめちゃう？」
研究者B「そだねー」
という感じらしい……です。
 

このニュースは、
「AIが、人間に理解されないような独自の言葉を作り出し、会話し始めた」
という（印象をもつ）記事として発表されましたが、実際はそうではなかったようです。
いい具合にAIの恐怖と未来の不安を煽る内容でした。
制作物のネタにもなりそうだったんだけれどな。
実際には、「2つのAIが、英語以外の言語で会話をはじめ、同社はこのプロジェクトを、研究成果が見込めそうにないのでとりあえず停止させた」ということらしいです。
 
 

Spit on eyebrows

Triangle March 作品の制作にあたり、いろいろと調べたりしていますが、その内容がムー的あるいはオカルト的なものだった場合、かなりの確率でトンデモ説に出くわします。
このテの世界は「トンデモ説の荒波に乗り、色々なことを楽しむことが醍醐味なのさ」、とも言えます。
ウソっぽいような本当のハナシや、本当っぽいウソのハナシに揉まれながら、眉に唾をつけて暮らすのがムー的世界のリテラシーになります。
 

でも、一般ニュースにトンデモ説や誤解に基づくフィクションが紛れ込むと、一瞬ワクテカ＆ギョッとしますね。
一般ニュースの場合は、まずは事実と思って読みますので、通常ウラをとったりしません（それを事実かどうか、改めて確認する作業をしません）。
しかし世の中、誤解やポジショントークにまみれているのが普通なのだな、というのを最近しばしば感じますね。
 

信じ込んでしまっている「事実」も、たくさんありそうです。
また、誤った方の情報が一般的に支持されている場合、事実の方を言うと陰謀論ぽくなってしまいますし、難しい……