帕姆·维斯涅夫斯基 (Pam Wisniewski) 的数字青春期向她展示了互联网最好的和最坏的一面。
14 岁时，她离开了一个充满虐待的家庭，当时她被隔离在一辆五轮拖车里，停在一条七英里的土路尽头。
她搬去和姐姐住在一起，并自学在 AOL Instant Messenger 上打字。
她在网上寻求在家中缺乏的支持和社区。
她还发现冰层可以有多薄。
“我把我的地址发给新墨西哥州的一个人，让他给我寄一个印有我名字的杯子，”她回忆道。
“然后我发现五、十年后他杀了人的新闻报道。
” 这些经历决定了她的职业生涯。
维斯涅夫斯基现在是加州大学伯克利分校附属非营利组织国际计算机科学研究所的首席研究科学家，十多年来一直在探索如何在不断发展的科技领域为家庭提供安全保障，以及如何在不牺牲信任的情况下实现这一目标。
“我确实认为互联网是一把双刃剑，”她说。
数字危害已成为美国父母最担心的问题。
在密歇根大学 2025 年全国儿童健康民意调查中，父母最担心的三个问题与社交媒体、屏幕时间和互联网安全有关。
根据皮尤研究中心的数据，近一半的美国青少年表示他们在网上受到过欺凌或骚扰。
从那时起，危险就会升级。
网上毒贩出售含有芬太尼的假药。
2025 年上半年，国家失踪与受虐儿童中心收到了 23,000 多份有关金融性敲诈勒索的报告，其中一名掠夺者冒充同伴从儿童身上提取性图像，并威胁要发布，除非付费。
聊天机器人是最新的危险，OpenAI 等公司因涉嫌指导儿童自杀而面临诉讼。
大多数父母的第一道防线是谈话。
在皮尤研究中心的调查中，超过十分之九的人表示，他们曾与青少年讨论过哪些内容适合在网上分享以及如何对待同龄人。
他们可以通过手机上预装的工具来帮助限制暴露：苹果的屏幕时间和谷歌的 Family Link 让父母可以限制屏幕时间、阻止或批准应用程序、过滤网络内容和跟踪设备。
还有一些应用程序可以让家庭成员共享位置；最大的Life360每月拥有近9800万用户。
但越来越多的成年人选择更进一步的工具。
内容监控应用程序不是简单地限制或定位，而是扫描孩子的文本、照片、电子邮件和聊天记录，并在算法标记出其认为危险的内容时提醒父母。
业务正在蓬勃发展，下一波增长已经围绕人工智能展开，各公司将自己定位为聊天机器人伴侣和其他风险的陪衬。
包含数十种应用程序的家长控制软件市场预计到 2025 年价值 15.7 亿美元，预计到 2034 年价值将增长近两倍。
当前内容监控应用程序领域的领导者 Bark Technologies 表示，到 2025 年，该公司将扫描美国 750 万名儿童发送或接收的 110 亿条消息。
其免费学校计划覆盖 3,700 多个地区，覆盖美国约十分之一的儿童。
虽然 Bark 的目标是只标记超出其过滤器的内容，但 FlashGet Kids 等一些竞争对手提供了屏幕镜像和摄像头访问等功能。
这些应用程序取得了真正的成功：它们阻止了自杀企图，拦截了掠夺者，避免了校园枪击事件。
但它们本身也会造成伤害。
为了了解数字监控如何影响年轻人，我抓取了超过 600,000 条领先应用程序的评论，并与孩子、父母以及小时候受到监控但现已长大的人进行了交谈。
有些孩子很感激父母的保护。
其他人则描述了导致他们受到惩罚的虚假警报、在他们准备好之前就泄露的秘密、信任的崩溃以及他们成年后所承受的焦虑。
（为了保护他们的隐私，我们不会使用他们的全名。
） 这些都不容易解决。
但儿童安全研究人员和倡导者表示，存在更好的方法。
一是让平台本身更安全，迫使社交媒体公司建立护栏，而不是让家庭自行寻找。
这种“注意义务”方法目前正在英国、澳大利亚和美国许多州推广。
另一个方法是少花点钱看孩子，多花点钱帮助他们认识风险、应对风险，并在出现问题时向值得信赖的成年人求助。
这种方法称为弹性。
Wisniewski 和其他人正在开发工具，这些工具不会主动监视孩子，而是训练他们的适应力并与父母建立信任。
“如果我们将安全定义为没有风险，那么保证他们安全的方法就是让他们完全远离平台，”她说。
“但如果我们将安全定义为保护自己并在不承担风险的情况下参与的能力，那么解决方案看起来就会非常不同。
”这就是禁欲讲座和性教育之间的区别。
内容监控应用程序通常涉及两个软件——一个在孩子的设备上，一个在父母的设备上。
家长安装儿童端应用程序，连接孩子的帐户，并选择要监视的内容：消息、社交应用程序、浏览、位置、屏幕时间。
儿童端软件将活动转发到公司的算法分类器，该算法分类器扫描与性、毒品、欺凌和自残等类别相关的内容，并将警报推送到面向家长的仪表板。
相同类型的软件可以加载到学校发行的帐户和设备中。
有时安全网会起作用。
Bark 的首席营销官泰坦尼亚·乔丹 (Titania Jordan) 告诉我，联邦调查局已多次感谢该公司提请其注意可信的校园枪击威胁。
“我讨厌我们必须存在，”她说。
“但我很感激我们这么做了。
”根据 Bark 的年度报告，其分类器在 2025 年提醒数十万家庭注意严重的自残风险。
学校监控竞争对手 Gaggle 在自己的年度报告中也提出了类似的声明，认为其软件在 2024-25 学年拯救了 1,000 多人的生命。
🔗 原始来源
如果你要核对细节，可以再看原文： MIT Tech Review原文链接