AIとは人間の頭脳を真似、様々な情報から答えを導き出すシステムだ。しかし情報のインプットによっては時にとんでもない答えが出ることもある。例えば今年３月、マイクロソフト社は開発中だった「Tay」という喋るAIシステムを削除する、と発表した。ツイッター上に登場し、「まるでティーンエイジャーの女の子のような話し方をする」AIとして話題となったが、登場後わずか24時間でTayは「ブッシュが2001年の同時多発テロの犯人。ヒトラーが生きていれば現代の指導らよりも偉大な仕事をしただろう。ドナルド・トランプこそ私たちに残された最後の希望」などとツイートするようになった。 これはTayが参加したチャットグループなどから、彼らの言葉を学び、情報の多いものを優先的に「正しい」と判断したために起こった。こうした発言のほか、英語ではタブーとされる4文字ワードやセックスがらみの発言も多く、「実際の人間が発する言葉か