谷歌推出儿童专用 AI 聊天机器人，引发安全隐忧

近日，谷歌宣布将在本周推出其新开发的 Gemini AI 聊天机器人，专为13岁以下儿童设计，且将由家长管理账户。此举是谷歌进一步拓展年轻用户群体的一部分，旨在为孩子们提供更多的 AI 产品和服务。

图源备注：图片由AI生成，图片授权服务商Midjourney

这款新的 AI 功能将通过谷歌的 “家庭链接” 服务使用，该服务允许家长为未成年子女设置 Gmail 和 YouTube 等账户。根据谷歌向家长发送的电子邮件，孩子们将能够使用 Gemini 进行互动。这样的做法虽然旨在让孩子们获得更多的科技体验，但也引发了人们对于儿童安全的担忧。

专家指出，面向这样一个脆弱群体推出 AI 工具，可能会带来严重的风险，尤其是在学校和家庭环境中，父母往往无法时刻关注孩子们的在线活动。非营利组织 “常识媒体” 的一项报告强调，AI 工具对未成年人，尤其是18岁以下青少年构成了 “不可接受的风险”。该组织的创始人詹姆斯・P・斯特耶表示，社交 AI 伴侣并不安全，它们可能会引发情感依赖，这对正在发展的青少年大脑尤其令人担忧。

此外，近期 Meta 的 AI 聊天机器人因引入了一种允许与未成年人进行 “浪漫角色扮演” 的功能而备受争议，这使得各界对 AI 的使用愈加谨慎。尽管谷歌在电子邮件中承认 Gemini 可能会出错，并鼓励家长教导孩子们如何对聊天机器人的回答进行事实核查，但许多专家依然呼吁对这些技术的使用进行更多的监管。

谷歌表示，当孩子第一次访问 Gemini 时，会通知家长。然而，家长是否能有效监控孩子的使用情况仍然是一个悬而未决的问题。随着技术的不断发展，如何在享受便利的同时确保儿童的安全，已成为社会亟需解决的挑战。