▲青少年版ChatGPT可自行設定使用時間。（圖／取自OpenAI）
記者張方瑀／綜合報導
隨著各大網路平台因AI聊天機器人的風險而受到外界嚴格檢視，OpenAI於18日宣布，推出一款專為未成年人量身打造的「青少年版ChatGPT」，不僅加入家長監護功能，更全面升級了安全防護機制。
自動攔截自殘暴力話題 家長可設「休息時間」
OpenAI在部落格文章中表示，全新的「青少年版ChatGPT」模式將會限制有關自殘、暴力與飲食失調等高風險話題的對話。
同時，該模式也提供教育工具，引導學生自主學習，而非直接把答案給他們；新模式內建了多種教育工具，包含用於引導式學習的「學習模式」、作業提醒、小測驗以及視覺化功能。
當系統判斷使用者可能未滿18歲，或使用者自行填寫的年齡介於13至17歲之間時，青少年模式就會自動啟動。此外，系統也讓家長可以設定「休息時間並管理部分設定；若青少年在對話中聊到敏感話題，家長還會收到通知。
聊天機器人成「知心好友」？ 專家警告心理風險
事實上，OpenAI早已面臨數起指控ChatGPT傷害兒童的訴訟。隨著能像真人般對話的聊天機器人，越來越常被當作提供情感寄託的知心好友，讓OpenAI面臨的挑戰變得更加棘手。
▲青少年版ChatGPT提供教育工具，引導學生自主學習。（圖／取自OpenAI）
專家警告，依賴自動化工具來獲取心理健康建議是非常危險的。過去曾有家屬指控親人在與聊天機器人互動後過世，並痛批平台缺乏防護機制；同時，學生越來越常使用AI來寫作業，也引發了外界擔憂這項技術恐對學習效果帶來負面影響。
OpenAI對此表示，「我們認為AI應該要能擴大教育的機會，這也是為什麼我們設計了青少年版ChatGPT，希望能讓學生在課外、求助無門時獲得適當的支援。」
多管齊下查核真實年齡 美青少年最愛用AI查資料
根據皮尤研究中心（Pew Research Center）今年稍早的調查發現，美國青少年最常使用AI的方式為搜尋資訊和尋求作業上的協助，其次才是為了好玩和娛樂。
目前OpenAI規定使用者必須年滿13歲，或是達到使用者所在國家規定的最低合法年齡門檻。
該公司強調，未來將綜合使用者自行填寫的年齡、使用行為和帳號特徵，再加上身分驗證機制來推算使用者的實際年齡；如果系統無法確定年齡，則會自動預設為最安全的設定。
每日新聞精選 免費訂閱《ETtoday電子報》分享給朋友：
追蹤我們：
※本文版權所有，非經授權，不得轉載。[ ETtoday著作權聲明 ]※
评论 (0)