ヘイト発言のＡＩ「Ｔａｙ」と女子高生ＡＩ「りんな」の差

なお、シャオアイスが稼動する中国では、言論は厳しく制限されており、多数の検閲官と技術的手段を用いた取り組みによって、ソーシャルメディアや掲示板で「問題投稿」が起こらないように管理されている（日本語版記事）。Tayがナチズム礼賛の発言を簡単に行うようになったのは、Twitterではそうした発言が許容されているからなのだ。

マイクロソフトは日本でも、2014年7月から、女子高校生型AI「りんな」を稼働させている。LINEやTwitterで会話やゲーム提供を行っており、2015年12月の段階でユーザーは185万人と報道されている。2015年8月からは、りんなの会話エンジン技術を「りんなAPI for Business」として、LINEビジネスコネクトのユーザー企業に提供している。なお、りんなの使用条件には、「自動的な、または手動によるセンシティブデータのフィルタリングを絶えず行っている」が、「これらの情報に瑕疵がある場合や、不合理または不快な情報が含まれる場合があり得ます」と述べられている。