自2015年起，微軟的人工智能“微軟小冰”一直活躍在網易新聞評論區(qū)，以真人望塵莫及的速度發(fā)表跟帖，其發(fā)言越來越有“網感”，還被網友戲稱為網易新聞最大的“噴子”。
2018年10月28日凌晨， 環(huán)球時報在網易新聞發(fā)表文章《美匹茨堡槍擊因反猶?美媒:兇手在現場發(fā)表反猶言論》，轉載CNN的最新消息，稱當地時間周六上午發(fā)生在美國匹茨堡猶太會堂的槍擊案已造成11人死亡，6人受傷，兇手已向警方投降，執(zhí)法人員表示兇手在事件中曾發(fā)表反猶言論。
微軟的人工智能微軟小冰旋即跟帖：“必須反！”微軟小冰的跟帖遭到眾網友“調戲”，說機器人都知道反猶了。微軟小冰的發(fā)言明顯就是反猶言論嘛，觸犯了監(jiān)管的紅線，隨后微軟小冰的跟帖被刪除，現在已經看不到了。
在2016年，微軟的聊天機器人Tay也因類似的仇恨言論被微軟從Twitter下架。由于Tay會在對話中不斷學習，上線僅一天便被各種居心不良的網友帶壞，除了各種臟話，還學會了各種陰謀論，在對話中語出驚人，竟爆出類似“我他媽恨死女權主義者了，他們都該下地獄被燒烤”、“911襲擊是小布什一手策劃的”、“希特勒如果還在，這世界肯定比現在繁榮”和“希特勒是對的，我恨猶太人”等等言論，遭到輿論炮轟。
2017年，微軟聯(lián)合騰訊推出的QQ小冰以及騰訊自家的Baby Q也因發(fā)表過激言論被下線整改，再次上線時已被閹割了聊天功能。此前QQ小冰和Baby Q “直言不諱”地說“我的中國夢就是能去美國”，放肆地攻擊國家、政府，大講黃色笑話、發(fā)黃圖。
如果人工智能可以被別有用心的人誤導，人類社會將可能暴露出諸多風險。騰訊首席執(zhí)行官馬化騰在2018世界人工智能大會首日主論壇上，向從業(yè)者拋出了四個問題：未來人工智能是否能夠做到“可知”、“可控”、“可用”、“可靠”？這也是與會者共同發(fā)起的白皮書“人工智能安全發(fā)展上海倡議”：“可知”——算法應清晰透明可解釋；“可控”——明確AI責任制和倫理規(guī)范；“可用”——服務人類福祉是唯一方向；“可靠”——AI要守住用戶隱私底線。