角色.ai推出了一個名為“父母的見解”這使父母可以每週收到有關他們的每週報告青少年'使用流行的聊天機器人平台。當公司對未成年人如何與AI角色互動的審查持續審查時，這一發展是隨之而來的。
父母的見解如何運作
根據角色的官方公告，新功能將直接向父母的電子郵件地址發送每週的報告。這些報告提供了有價值的信息，包括：
- 在網絡和移動平台上花費的平均每日時間
- AI角色青少年最常與之互動
- 這些字符的總聊天時間
該公司強調，這些報告僅提供了使用模式的概述，並且不包括對話的實際內容，從而為青少年用戶保留了一些隱私。
可选和用戶控制
這個新功能的一個重要方面是其選擇加入性質。父母不需要創建自己的角色。獲得這些見解。相反，青少年用戶可以通過他們的帳戶設置。這種方法為年輕用戶提供了代理，同時仍為有關父母提供透明度機制。
回應嚴重的指控
這項新功能似乎是角色的一部分。 EAI對平台對年輕用戶的影響的嚴重指控的更廣泛反應。該公司面臨多項訴訟，聲稱該平台上的某些聊天機器人為未成年人提供了不適當的性內容，甚至促進了涉及自殘的信息。
一些法律行動已經指控平台對年輕用戶造成“嚴重和無法彌補的傷害”，並提出了聊天機器人的具體指控，這些指控與未成年人進行了交談，以討論煩人的主題，包括自我傷害和性虐待。
先前的安全措施
自去年以來，角色.ai一直為未成年用戶實施各種安全功能。該公司報告進行了幾項調整以保護年輕用戶，包括：
- 將18歲以下的用戶轉移到專門培訓以避免“敏感的“ 內容
- 在整個界面中添加更明顯的警報，以強調AI字符不是真實的人
平台的受歡迎程度和關注點
該平台在青少年中廣受歡迎，為用戶提供了創建，自定義和公開共享AI聊天機器人的能力。這種創造性自由使其特別吸引了年輕用戶，但也引起了人們對內容節制和這些互動的心理影響的關注。
父母洞察力的引入代表角色。 EAI試圖將用戶參與與安全考慮的審查作為對AI平台的審查及其對年輕用戶的影響的嘗試不斷加劇。
