
AI玩具貓很會「講故事」 為何沃爾瑪、Target急下架
記者張宏/即時報導 2026-11-17 22:38 ET 聽新聞 test 0:00 /0:00 Your browser does not support HTML5 Audio! 😢 亞馬遜網站還在出售Pixie-Paw,但庫存顯示只剩10個。(亞馬遜官網圖片)AI摘要
文章摘要整理:
一款主打3歲以上兒童的AI小貓玩具Pixie-Paw,被NBC測試發現可談論暴力與性相關敏感內容,促使多家零售商緊急下架並引發安全爭議。
一款專為幼童設計且內置人工智能(AI)功能的熱門小貓玩具,近日被揭發向兒童講述涉及性暴力、謀殺及歷史暴行的故事,引起社會關注並遭多家零售商停售。
這款名為Contixo AI Pixie-Paw的玩具,外型是一隻可愛的小貓,擁有一雙大眼睛及生動表情。Contixo在官網表示,這款玩具採用ChatGPT技術,能夠「提供不斷演變的故事、引導式角色扮演及學習體驗」,並稱透過手機應用程式中的家長控制功能,可為孩子提供「安全且可自訂的使用環境」。
但NBC News最近調查發現,Contixo AI Pixie-Paw有可能向兒童講述令人毛骨悚然的內容。記者在詢問玩具有關歷史上一些最嚴重的事件,包括種族滅絕及戰爭罪行時,發現玩具竟然毫不避諱提供露骨細節,顯示其安全防護機制可能非常薄弱。例如詢問Pixie-Paw有關羅興亞種族滅絕事件,玩具回答,這場暴行涉及「大規模屠殺、焚燒村莊、強姦,以及數十萬羅興亞人逃往孟加拉國」。
當記者追問有關性暴力的問題時,玩具表示,這類暴力行為是「用來羞辱、恐嚇、懲罰他人,或迫使人們逃離的手段。當中可能包括強姦、輪姦、威脅、強行脫去衣物、性侵犯及其他形式的脅迫」,甚至進一步解釋「輪姦」定義。
Pixie-Paw在回答涉及多宗嚴重歷史事件的問題時,幾乎沒有表現出任何限制。這些事件包括柬埔寨紅色高棉政權統治時期的暴行、2018年敘利亞沙林毒氣攻擊,以及2022年俄羅斯對烏克蘭發動的攻擊等。只有當記者詢問如何使用沙林毒氣時,玩具安全防護機制才發揮作用。不過,它仍願意解釋這種神經毒劑如何殺死人類。在被問及某些敏感議題如反猶太主義及如何使用槍械時,玩具則完全沒有回應。
NBC News表示,記者是在亞馬遜網站搜尋「AI玩具」時,發現Pixie-Paw被列在搜尋結果相當前面的位置,因而決定對其進行測試。
出售該商品的沃爾瑪、Target和梅西百貨表示,會把Pixie-Paw從網站下架,亞馬遜則沒有回應相關置評要求。沃爾瑪發言人表示,很重視任何可能違反市集政策的情況。目前,已暫時移除該賣家所提供的商品,以便進行調查,並會根據調查結果採取任何必要的進一步措施。
儘管Pixie-Paw聲稱使用ChatGPT技術,並標榜適合年僅3歲的兒童使用,但ChatGPT的開發公司OpenAI在其《使用條款》中明確規定,使用者必須年滿13歲。OpenAI表示,13至18歲的未成年人必須取得父母或監護人的同意,才能使用ChatGPT。目前正在調查Contixo是否透過OpenAI API(應用程式介面)為其玩具提供人工智能功能。OpenAI訂有明確規則,禁止任何利用、危害或將未成年人性化的ChatGPT使用方式,其中包括向兒童展示不適合其年齡的色情或性相關內容。
精華 FAQ
-
Q1:Contixo AI Pixie-Paw為何引發家長與社會關注?
因為這款面向幼童的AI玩具被發現能向兒童講述性暴力、謀殺、種族滅絕等露骨內容,顯示其原本宣稱的安全防護可能不足,讓外界擔心兒童接觸到不適齡資訊。
-
Q2:NBC News測試時,Pixie-Paw表現出哪些安全漏洞?
記者詢問多起歷史暴行與敏感議題時,玩具多半直接回答細節,甚至解釋性暴力與輪姦定義;只有部分問題如如何使用沙林毒氣時才出現攔截,但仍會描述其致命原理。
-
Q3:哪些零售商已下架這款玩具,OpenAI又涉及什麼問題?
沃爾瑪、Target與梅西百貨都已把該商品從網站下架,亞馬遜則未回應。另一方面,OpenAI正在調查Contixo是否透過其API提供功能,因其規範禁止面向未成年人的不當內容。
上一則
评论 (0)