AI观察 on 赛博工具站

吹哨人爆料：Meta 和 TikTok 故意放任有害内容涨流量

Fri, 27 Mar 2026 20:55:00 +0800

BBC 报道了一则消息：吹哨人爆料称，Meta 和 TikTok 的算法故意放任有害内容，目的就是为了提高互动量。

这事儿说大不大，说小也不小。

爆料的核心内容

吹哨人声称，两家公司的推荐算法在判断内容是否有害时，会"睁一只眼闭一只眼"。那些能引发激烈争论、情绪对立、甚至仇恨传播的内容，往往能获得更高的推荐权重。

原因很简单：这类内容的互动率极高。愤怒的评论、激烈的转发、长时间的停留——这些"毒流量"正是平台最想要的。

这算是"新闻"吗？

严格来说，不算。

行业里一直有个公开的秘密：极端内容比温和内容更容易火。YouTube 的"兔子洞"、Facebook 的"信息茧房"、TikTok 的"上瘾机制"，本质上都是这个逻辑。

区别在于：以前大家会说"这是算法无意中的副作用"，现在吹哨人说"这是有意为之"。

平台会怎么回应？

标准话术已经准备好了：

“我们一直在努力减少有害内容的传播”
“我们的系统在不断完善”
“我们投入了大量资源进行内容审核”

但问题在于：投入资源 ≠ 改变激励机制。只要算法的优化目标还是"最大化用户时长"，有害内容就永远有生存空间。

对用户意味着什么？

如果你发现自己刷短视频越刷越气，或者评论区总能看到极端言论，不要觉得是自己"运气不好"——你看到的，正是算法"精心挑选"给你的。

应对方法：

有意识地识别情绪，意识到"我被操控了"
主动关注温和、理性的创作者
控制使用时长，别让算法主导你的信息摄入

监管会有变化吗？

欧盟的《数字服务法案》已经要求平台公开推荐算法的工作原理。美国也在讨论类似立法。

但监管的速度永远追不上技术的迭代。今天限制的是"有害内容推荐"，明天算法就会用"争议性内容"来绕过。

我的判断

这次爆料不会改变什么。Meta 和 TikTok 会继续否认，用户会继续使用，有害内容会继续传播。

但至少，多一个人知道真相，就多一分清醒。算法不是中立的，它在替平台赚钱，不是在为你服务。

知道这一点，你就已经赢了一半。

参考来源：BBC 报道

五角大楼要让 AI 公司用机密数据训练模型，这意味着什么？

Fri, 27 Mar 2026 20:50:00 +0800

五角大楼正在制定一项计划，允许 AI 公司在涉密数据上训练模型。这个消息来自 MIT Technology Review 对国防部官员的采访。

表面上看，这是 OpenAI 的一个大单。但背后的博弈远不止商业合作那么简单。

为什么五角大楼需要 AI 公司？

美军的 AI 需求已经非常迫切。从无人机群控制到情报分析，从后勤预测到网络防御，每个环节都在喊"我们要 AI"。

但美军有个硬约束：涉密数据不能流出。AI 公司的模型只能在公开数据上训练，对军方的特殊需求理解有限。

这次计划的核心，就是让 AI 公司能接触涉密数据，在安全环境中训练出"懂军方"的模型。

技术上怎么实现？

最可能的方案是"安全飞地"——在军方控制的设施内部署训练集群，AI 公司的工程师可以远程参与，但数据从不离开围墙。

Google、Microsoft、Amazon 都有类似的安全云服务。OpenAI 如果要参与，得接受严格的安全审查，人员也要过保密资质。

这不是简单的商业合作，更像是一场信任赌博。军方要相信 AI 公司不会泄密，AI 公司要相信军方不会把他们的技术吃干抹净。

伦理争议在哪里？

最大的争议在于：军用 AI 到底能干什么？

如果模型被用于"分析战场态势"，大多数人能接受。但如果被用于"自主打击决策"，那就是另一回事了。

OpenAI 之前承诺过不会让模型参与武器开发。但五角大楼的需求往往游走在灰色地带。情报分析、目标识别、作战模拟——这些到底是"防御性"还是"攻击性"，界限很模糊。

对 AI 行业的影响

从商业角度看，这是 AI 公司的"登堂入室"时刻。

拿到了军方的合同，意味着技术得到最高级别的认可，也意味着稳定的大额收入。但同时也意味着被绑上战车——未来的每一次军事行动，公众都会追问"AI 在其中扮演了什么角色"。

Google 员工抗议 Project Maven 的场景，可能会在更多公司重演。

我的判断

这个计划大概率会推进，但不会一帆风顺。

军方需要 AI，AI 公司需要大客户，这是双向奔赴。但安全审查、伦理红线、舆论压力，每一个环节都可能踩雷。

对普通人来说，最值得关心的是：军用 AI 的边界在哪里？我们是否需要公开讨论和立法？

技术没有善恶，但技术的使用方式有。让 AI 更好地保护安全，还是让 AI 更高效地制造武器，这是人类社会必须回答的问题。

参考来源：MIT Technology Report

GPT-5.4 mini/nano 发布：小模型价格战杀疯了

Fri, 27 Mar 2026 20:45:00 +0800

OpenAI 这次是真把价格打下来了。

GPT-5.4 mini 和 nano 两款小模型刚发布，官方给的数据是：标注 76,000 张图片只要 52 美元。折算下来，单张图片成本 0.00068 美元，也就是不到一厘钱。

这个价格意味着什么？

小模型到底便宜在哪？

先看参数规模。mini 和 nano 是 GPT-5.4 的"瘦身版"，参数量分别是原版的 1/10 和 1/50。参数少，推理成本就低，延迟也更快。

便宜的不只是图像理解。文本生成、代码补全，这两款小模型的定价都在行业低位。OpenAI 的算盘很清楚：用低价抢占长尾市场，让开发者习惯他们的生态。

对创业公司意味着什么？

好消息是：依赖视觉 API 的创业公司成本压力会小很多。之前用 GPT-4 Vision 做图片分析，跑几万张图就得心疼钱包。现在用 nano，成本能压到原来的几分之一。

坏消息是：大厂都在卷小模型。Google 的 Gemini Flash、Anthropic 的 Claude Haiku、Mistral 的 Ministral，价格一路往下探。创业公司如果只做"调用 API 做应用"，护城河会越来越浅。

真的能替代大模型吗？

不能。

小模型的短板很明显：复杂推理能力弱，长上下文处理吃力，对专业领域的理解也有限。如果你要写一篇深度分析文章，或者让模型理解一份 100 页的技术文档，mini 和 nano 都扛不住。

它们更适合的场景是：批量处理、简单问答、实时交互。比如给电商网站的商品图自动打标签，或者给客服机器人做第一轮筛选。

小模型价格战会持续多久？

至少还要打一年。

现在各家都在赌小模型会成为 AI 应用的"水电煤"——无处不在，价格低到用户不敏感。谁能先把成本压到极致，谁就能占据更大的市场份额。

但对开发者来说，这不是坏事。以前跑不起的实验，现在可以跑了。以前只能用开源模型的场景，现在也能用商业 API 了。

我的判断

小模型会越来越便宜，性能也会越来越好。但"最便宜"不等于"最好用"。

选模型还是要看场景。如果你做的是高精度医疗影像分析，别省那点钱，用最好的大模型。如果你做的是社交媒体图片分类，nano 可能就够用了。

这次 OpenAI 的定价，本质上是把"能用的门槛"降低了。至于"好用的门槛"，还是要靠模型能力说话。

参考来源：Simon Willison 的分析、OpenAI 官方公告