北京时间 9 月 23 日，据路透社报道，谷歌信任与安全团队的创始人汤姆 · 西格尔 (Tom Siegel) 在本周呼吁放缓 AI 发展，并警告称，科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大的伤害。目前，社交媒体公司正因为被指控伤害年轻用户而支付巨额赔偿并面临数千起诉讼。
与此同时，世界各国政府正努力限制未成年人访问社交媒体平台。路透社去年曾独家报道了 Meta 的一份内部政策文件。
文件称，其聊天机器人可以“与儿童进行浪漫或情色对话”，由此引发了国会调查。即便如此，监管措施仍未能跟上 AI 飞速发展的步伐。
西格尔曾担任谷歌信任与安全副总裁，他对路透社表示：“就 AI 正在对儿童造成的影响而言，我们目前的处境非常糟糕。那种认为行业能够在没有外部帮助的情况下自行解决问题的想法，是不现实的。
他的担忧，反映了一些科技行业人士和学术研究者日益加深的恐惧：AI 对儿童构成的威胁比社交媒体更为深层。而当下，整个行业正竞相为聊天机器人添加越来越先进的功能，而数百万年轻人已经在日常使用这些机器人。
西格尔周二宣布，他已加入儿童网络安全倡导组织 Common Sense Media。这家成立于 2003 年的非营利组织致力于开展研究，并评估各类媒体对儿童的适宜性。
今年 5 月，该组织成立了青少年 AI 安全研究所，这是一个旨在评估儿童使用 AI 情况的研究机构，西格尔将担任该研究所的首任执行主任。 Anthropic 以及控制 OpenAI 的非营利组织 OpenAI 基金会，都是该研究所的支持方。
西格尔表示，他计划制定相关标准，以此对 AI 公司进行问责，并希望与这些公司及第三方组织合作来实现这一目标。他此前于 2004 年至 2019 年在谷歌工作，但后来认为科技行业在为消费者打造安全网络空间方面的能力已经“陷入瓶颈”，于是离开谷歌。
随后，他共同创办了 TrustLab，这是一家开发工具帮助企业发现安全威胁的创业公司。本月早些时候，他卸任 CEO 一职，转而担任新职务。
西格尔表示，目前，各大 AI 公司正在向儿童推出各种功能，却没有建立足够的安全防护措施。 “我认为，我们正在面临非常、非常严重的伤害风险。
他说。西格尔称，AI 公司可以立即采取一些措施，更好地保护年轻人，并列举了从自杀、精神错乱到“认知卸载”等一系列风险。
所谓认知卸载，是指因依赖 AI 来回答问题而导致批判性思维能力下降。他说，Anthropic 和 OpenAI 可以实施更严格的年龄验证措施，阻止未成年人使用其聊天机器人。
他还表示，他的前雇主谷歌完全可以在其搜索引擎中增加关闭 AI 概览和 AI 模式的选项，就像目前已经提供开关，让用户过滤色情内容一样。西格尔补充称，虽然这些措施短期内可能会影响使用量或利润，但不采取行动的 AI 公司将面临诉讼和监管的风险，这可能对其业务造成更严重的打击。
对于西格尔的上述言论，谷歌发言人回应称，家长可以通过相关控制功能，完全关闭孩子使用搜索引擎的权限。这名发言人说：“我们的 AI 搜索功能对儿童和青少年来说是一种非常有用的方式，可以帮助他们学习、探索并理解信息和这个世界。
OpenAI 发言人表示，除了用户自报年龄外，该公司还使用“账户和行为信号”来识别未成年用户。 “虽然没有任何单一的年龄验证方法是完美的，但我们会持续测试并改进这些系统，包括防范绕过安全防护的尝试。
该发言人称。