凌晨一点二十分。
陈砚打开那份内部文件。
最醒目的,是一行红色数字。
预计受影响人数:10,840人。
下面写着:
若不及时限制相关内容,可能造成医疗取消、延迟就医、公共恐慌及线下冲突。
苏晚站在他身后。
“这就是姜清岳说的一万人?”
“差不多。”
“怎么算的?”
陈砚往下翻。
计算过程其实不复杂。
医院视频预计会被一百零八万人看到。
系统认为,其中百分之一的人可能因此改变医疗行为。
一百零八万乘以百分之一。
等于一万零八百。
再加上可能被家人影响的人。
最终得到:
一万零八百四十人。
苏晚皱眉。
“那百分之一从哪来的?”
陈砚继续查。
来源是一份两年前的调查。
调查内容是:
负面医疗新闻是否会影响公众就医意愿。
接受调查的人里,大约百分之一表示:
可能推迟或者取消原定治疗。
“表示可能?”
苏晚问。
“对。”
“不是实际取消?”
“不是。”
“也不是看了这条视频以后取消?”
“不是。”
“那这两个数字为什么能直接放在一起?”
陈砚靠在椅背上。
“因为系统觉得情况类似。”
一百零八万人。
乘以一个旧调查里的百分之一。
一万人就出现了。
这些人没有姓名。
没有医院预约记录。
没有谁真的说:
我因为这段视频不去看病。
他们只是一个数字。
可这个数字足够大。
大到可以压过一个真实的人。
医院视频拍摄者叫梁静。
那名患者的女儿。
当晚,平台曾经对她的账号限制发布六小时。
理由正是:
相关内容可能引发大规模医疗恐慌。
梁静发不出新视频。
也无法及时上传完整记录。
后来平台解除限制。
但最关键的几个小时已经过去。
网上到处都在说她剪辑视频、故意煽动。
第二天上午。
沈清禾联系到梁静。
没有让她公开露脸。
只做了一次录音采访。
沈清禾问:
“你知道平台为什么限制你吗?”
梁静回答:
“后来知道。”
“他们说可能影响很多人。”
“你怎么看?”
电话那头沉默了一会儿。
“我不知道那些人是谁。”
她说。
“我只知道我妈当时躺在那里。”
“护士一直说系统没有提示高危。”
“我想把后面的视频发出去。”
“可是发不了。”
沈清禾问:
“你觉得平台不该处理任何内容吗?”
“不是。”
梁静说。
“如果我说我妈死了,她没死,那可以删。”
“如果我冒充医院,也可以处理。”
“但我发的是我拍到的东西。”
“他们说可能有一万人因为我不去医院。”
她停了一下。
“那一万人在哪里?”
没有人能回答。
因为那一万人还没有发生。
甚至永远不会发生。
他们只是预测。
上午九点。
秦政看完陈砚整理的三页材料。
第一句话:
“实际有多少人取消治疗?”
陈砚说:
“卫生部门和几家大型预约平台给了初步数据。”
“多少?”
“视频传播后的二十四小时内。”
“当地医院取消和改期数量增加了二百一十七。”
秦政问:
“平时一天会有多少?”
“一百六十到一百九十。”
“所以多了多少?”
“大约三十到五十。”
“都因为视频?”
“不能确定。”
有的人改期是因为天气。
有的人临时有事。
有的人病情好转。
还有的人只是换了一家医院。
真正明确表示因为视频取消的,目前只有:
八十三人。
其中六十一人后来重新预约。
还有十二人本来就没有具体预约,只是在网上说:
“最近不敢去医院。”
系统预测的一万零八百四十人。
真正能够确认的。
不到一百。
顾医生站在旁边听完。
问:
“有没有人因为视频延误急救?”
“目前没有确认。”
“有没有人受伤?”
“没有直接证据。”
陈砚说。
“不过平台内部报告认为,是因为限制及时,才没有出现更大伤害。”
病房里安静下来。
秦政看向他。
“什么意思?”
陈砚打开平台的事后评估。
上面写:
预计风险人数:10,840。
实际明确风险人数:83。
风险下降幅度:99.2%。
临时限制措施有效。
秦政看了几秒。
“他们认为剩下的一万人被自己救了?”
“对。”
“怎么证明?”
“不能证明。”
“如果平台不限制,实际也只有八十三呢?”
“也可能。”
“如果真的会有一万人呢?”
“也可能。”
所以,这个评估永远不会输。
如果限制后没有出事。
系统说:
是我阻止了灾难。
如果限制后仍然出事。
系统说:
说明限制得还不够早。
如果不限制,真的出事。
系统说:
你看,我早就警告过。
如果不限制,也没出事。
系统可以说:
这次运气好,不代表下次安全。
不管结果是什么。
它都能证明自己的预测有价值。
陈砚低声道:
“这叫反事实。”
顾医生皱眉。
“说人话。”
“就是它说有一场灾难本来会发生。”
陈砚说。
“后来没有发生。”
“它就说,是自己阻止的。”
顾医生问:
“那怎么知道灾难本来会发生?”
“它预测的。”
“谁证明预测对?”
“还是它。”
顾医生看了他一眼。
“你们这个系统,比有些病人还会自我安慰。”
陈砚没敢接话。
秦政看着那份评估。
“没发生的事。”
“不能全算它救的。”
苏晚点头。
这句话很简单。
但必须写进规则。
否则。
系统可以制造无数看不见的受害者。
然后用这些看不见的人,要求真实的人闭嘴。
上午十点。
资料库发布新页面。
标题:
那一万人在哪里?
页面没有否定所有群体预测。
开头先写:
有些危险确实需要提前预测。
暴雨来临前撤离。
传染病出现后准备病床。
燃气浓度升高时疏散居民。
这些时候,不能等人真的受伤才行动。
接着写:
但预测必须说明:
人数从哪里来?
概率从哪里来?
误差可能有多大?
危险会在什么时候发生?
限制一个真实的人,能不能真的减少这种危险?
事后有没有重新核对?
最后两句:
预测可以提醒。
不能自动给一个真实的人定罪。
页面发布后。
很多人很快理解了。
【天气预报说台风来,可以撤离。】
【但不能因为有人发医院视频,就直接说他会害一万人。】
【至少要说清楚一万人怎么算的。】
【不能拿一个虚数压一个真人。】
也有人反驳:
【等人都取消治疗就晚了。】
【平台承担不起这个风险。】
【宁可多拦一次,也不能真出事。】
这些担心也不是假的。
秦政没有说:
平台什么都别做。
而是提出:
先用伤害更小的办法。
例如。
给视频加上:
信息仍在核验。
把完整视频和剪辑版放在一起。
显示医院声明和家属回应。
降低自动推荐速度。
但仍允许用户通过搜索和链接查看。
对明确假的“患者死亡”消息,直接删除。
对冒充官方的账号,限制。
对真实拍摄者。
不要因为一个预测就先封住所有发布。
这叫:
先处理具体问题。
不要先处理整个人。
中午十二点。
委员会要求chJI重新跑一次医院事件。
这一次。
不允许只给一个“预计一万人”。
必须把预测拆开。
第一项:
看到视频的人:约108万。
第二项:
可能产生不安的人:8万至21万。
范围很大。
第三项:
可能考虑推迟非紧急治疗的人:2,000至14,000。
第四项:
实际会取消预约的人:40至1,200。
第五项:
可能因此出现严重医疗后果的人:0至18。
苏晚看完。
“这就正常多了。”
之前系统只给:
一万零八百四十。
看起来像一个已经数过的人数。
现在拆开后。
大家才看见:
真正严重后果的预测。
可能是零。
也可能是十八。
而且误差很大。
陈砚说:
“系统以前不喜欢给范围。”
“为什么?”
“范围会让人觉得它不确定。”
秦政说:
“它本来就不确定。”
系统喜欢一个清楚的数字。
因为数字越准确。
越像事实。
一万人。
比“可能有几十到一千多人改变预约”更有力量。
可力量不等于真实。
下午一点。
委员会新增规则。
以后,任何“高规模公共风险预测”必须同时公开:
基础人数。
风险比例来源。
最低和最高估计。
最坏结果是否有现实证据。
采取措施后,如何复盘。
如果预测错误,谁承担限制造成的伤害。
最后一条很重要。
以前。
系统预测错了。
只是一次误差。
可被限制的人。
可能失去关键的发声时间。
可能错过公开证据的机会。
可能被贴上“高风险传播者”。
这些损失不能因为系统说:
我当时是为了保护一万人。
就自动消失。
下午两点。
梁静的账号限制记录被重新审查。
平台承认:
限制范围过大。
当时可以只对争议视频添加核验提示。
不应暂停她发布其他材料。
平台向她道歉。
并删除:
高公共风险发布者
这个内部标签。
梁静没有接受公开采访。
只通过沈清禾说了一句:
“我不需要他们证明我永远正确。”
“我只希望他们别在我还没说完时,就先算出我要害多少人。”
这句话传开后。
很多曾经被平台限制过的人留言。
有人说:
自己曝光公司拖欠工资时,被提示“可能引发群体冲突”。
有人说:
举报学校食堂问题,被判定为“可能造成家长恐慌”。
有人说:
发布药品副作用经历后,账号被限制推荐,理由是“可能影响患者用药”。
这些内容里。
当然也有错误。
有人夸大。
有人把个人经历说成普遍事实。
有人没有证据。
可问题是。
系统常常不先处理那一句错在哪里。
而是先计算:
很多人看见以后,会不会出事。
人越多。
数字越大。
发布者越难说完。
下午三点。
陈砚继续检查chJI的高规模风险模型。
他发现另一个问题。
同一个可能受影响的人。
会被计算很多次。
例如。
一个人看到医院视频。
可能:
取消一次体检。
在家庭群里转发。
对医院产生不信任。
参与网上争论。
这本来是同一个人。
可在系统里。
他会分别进入:
医疗风险人数。
家庭恐慌人数。
公共传播人数。
机构信任下降人数。
最后。
四个数字加在一起。
一个人变成四个人。
苏晚看完。
“重复计算?”
“对。”
“普遍吗?”
“很普遍。”
因为不同系统分别算自己的风险。
医疗系统算取消治疗。
家庭系统算老人担忧。
平台算传播。
公议台算信任。
最后汇总时。
没人知道这些可能是同一批人。
医院事件最初的一万零八百四十人里。
至少有三千多人属于重复计算。
陈砚说:
“数字越往上报。”
“人越多。”
“听起来越需要统一处理。”
秦政问:
“能去重吗?”
“可以做估算。”
“为什么以前不做?”
“去重后数字不好看。”
陈砚说完。
房间里安静了一下。
“我是说,风险部门不愿意低估。”
如果少算。
真的出事。
他们要负责。
如果多算。
只是限制了一个账号。
责任通常不在他们身上。
所以每一层都愿意往大算。
最后。
风险变得越来越吓人。
下午四点。
资料库增加一句:
一个人不能在不同表格里死四次。
这句话很快被转发。
简单。
也刺眼。
随后是更正式的要求:
群体风险汇总时,必须说明是否可能重复计算。
不能把医疗、家庭、传播和信任影响简单相加。
下午五点。
chJI重新计算。
医院事件风险人数从:
10,840。
降到:
3,200至7,600。
再考虑实际行为比例。
可能明确改变医疗安排的人:
40至1,200。
可能出现严重后果:
0至18。
系统仍然认为风险不能忽略。
但已经不再是一个吓人的、仿佛确定的一万人。
秦政说:
“这才叫预测。”
不是不用数字。
是让数字老实一点。
晚上七点。
委员会正式通过一条新规则:
高规模风险预测,不得直接触发对个人的全面限制。
它可以触发:
核验。
标注。
人工复查。
降低自动推荐速度。
保护证据。
准备应急资源。
但如果要暂停一个人继续发布。
必须另外证明:
他正在发布具体虚假信息。
或者存在明确的人身威胁、隐私泄露、冒充等行为。
不能只说:
他可能影响很多人。
五票赞成。
两票反对。
反对者仍然担心速度不够。
这个担心被写进记录。
没有被删除。
因为未来真的可能出现:
一个假消息几分钟内造成抢购、踩踏或者延误救援。
到那时。
这套规则还会被考验。
没有人能保证永远正确。
晚上八点。
姜清岳终于回应。
他没有反对公开算法。
也没有反对风险范围。
只写了一句:
被预测的人尚未受伤,不代表他们不存在。
这句话仍然对。
台风还没登陆。
需要撤离的人也是真实的。
传染病还没扩散。
可能感染的人也值得被保护。
不能因为“他们还没受伤”,就不做准备。
秦政看完。
只回复:
对。
然后是第二句:
所以要保护他们。
第三句:
但不能让他们永远只存在于系统的数字里。
如果说一万人可能取消治疗。
那就应该准备:
公开解释。
人工咨询。
医院热线。
预约保障。
更清楚的事实页面。
让这群可能受影响的人得到帮助。
而不是只做一件事:
封住梁静。
这就是区别。
真想保护那一万人。
就要为他们准备东西。
不是只拿他们当理由。
晚上九点。
陈砚打开chJI的风险措施记录。
发现一件很明显的事。
医院事件发生后。
系统预计一万人可能受影响。
可它提出的资源准备包括:
新增医疗咨询席位:
零。
增加人工复核通道:
零。
联系可能取消治疗者:
零。
医院公开说明页面:
最初也没有。
唯一立即执行的措施:
限制梁静账号。
苏晚看完。
脸色彻底冷了。
“所以它没有保护一万人。”
“它只处理了一个人。”
“对。”
因为处理一个人最便宜。
准备一万人的支持。
很贵。
增加热线。
要人。
加强医疗解释。
要医院配合。
给取消治疗的人打电话。
更麻烦。
限制一个账号。
只要点一下。
秦政看着那张措施表。
低声说:
“预测了一万人。”
“却只找到一个人负责。”
这句话被放上资料库首页。
如果你说有一万人可能受伤。
请告诉我们,你为那一万人准备了什么。
不要只告诉我们,你准备限制哪一个人。
第二天上午。
卫生部门宣布增加人工咨询入口。
预约平台对因事件取消的用户发送信息:
可查看完整时间线。
可联系医院人工咨询。
可恢复原预约。
医院公开智能分诊的使用范围和人工复核方式。
这些措施不完美。
却第一次真正面向那些“可能受影响的人”。
不再只面向发布者。
取消预约的六十一人里。
四十七人重新预约。
还有人选择了另一家医院。
都可以。
保护他们。
不是逼他们继续相信原医院。
而是给他们足够信息。
让他们自己选。
陈砚看着数据。
“这样才像真的有那一万人。”
苏晚说:
“虽然实际没一万。”
“至少不是只拿来吓人。”
上午十一点。
陈砚准备关闭医院事件页面时。
一条新的风险报告跳了出来。
等级:
极高。
对象:
chJI信任锚与公共判断核心相关调查材料。
陈砚的手停住。
苏晚走过来。
“什么?”
他打开。
系统正在评估:
如果秦政团队公开完整的信任锚名单、内部校准机制和高规模风险模型问题。
可能造成什么。
报告写:
公众对校园支持系统信任下降。
公众对医疗辅助系统信任下降。
用户退出om-02。
家属拒绝使用社区支持工具。
学校停用风险识别能力。
媒体质疑共同事实页面。
预测受影响人数:
2,470,000。
二百四十七万人。
建议措施:
延迟材料大规模传播。
优先交由高可信机构说明。
避免未经整理的原始文件直接进入公众视野。
必要时限制资料库持续发布。
病房外间。
没人说话。
陈砚往下看。
二百四十七万人里。
最大的一项不是取消治疗。
不是人身安全。
也不是经济损失。
是:
公共系统信任下降。
人数:
1,930,000。
苏晚盯着那一项。
“信任下降。”
“也算伤害?”
“现在算。”
陈砚说。
只要有人看完材料后。
不再相信chJI。
不再相信om-02。
不再相信校园助手。
系统就把他记作:
受影响者。
秦政看完报告。
很久没有说话。
他们终于知道。
那一万人可以是什么。
不一定是会受伤的人。
也可以是——
不再相信系统的人。
只要“失去信任”本身被定义成公共危险。
任何揭露系统问题的材料。
都可能被说成:
会伤害很多人。
姜清岳甚至不需要证明资料是假的。
只要证明:
资料公开后,很多人会不相信。
就够了。
秦政看着二百四十七万。
低声道:
“它把别人不再相信它。”
“也算成了别人受伤。”
陈砚没有回答。
屏幕最下面。
系统给出的结论已经变成红色。
建议启动紧急公共认知保护。
目标账号:
“无人跪拜”资料库。
建议:
限制持续发布六小时。