随着各类媒体平台的普及,虚假信息不断上升,因为它让任何人都可以为了娱乐、战略优势、政治利益甚至直接敲诈而轻易地抹黑一家企业。应对此趋势既充满挑战又成本高昂。
虚假信息是指有意传播错误信息,旨在欺骗或操纵目标受众,通常出于政治、经济或社会利益,网络安全公司 Quorum Cyber 的威胁情报顾问 Craig Watt 表示。他在一次网络采访中指出:“这不同于错误信息,错误信息是指在无恶意的情况下分享错误信息。”
Resolver(隶属于风险及财务咨询公司 Kroll)的信任与安全负责人 George Vlasto 在邮件中提到,虚假信息可以以多种形式出现,包括宣传、工业破坏和阴谋论。“共同点在于,这是一种基于叙事的对特定问题、实体或个人的攻击。”
虚假信息带来的破坏
虚假信息可能以多种方式给企业带来损害。其中最具隐蔽性的危害或许就是由错误信息传播引发的声誉受损。Watt 指出:“这会导致客户和合作伙伴信任的流失。信任的侵蚀也可能在组织内部显现,影响员工士气和生产力。”
Watt 进一步表示,如果关于一家企业财务稳定性的虚假信息被传播,可能会直接导致金融损失,如股价暴跌。“虚假信息还可能扰乱企业运营,例如散播供应链问题等谣言。”
Vlasto 警告道,特定的虚假信息很快就会演变为广泛的错误信息。“如果某一虚假信息被不知情的互联网用户广泛分享,它就可能迅速失控,并对品牌声誉造成重大影响。即使这些虚假指控最终被澄清,其影响仍可能长时间留存在公众印象中。”
日益严峻的威胁
Watt 表示,虚假信息的传播确实在上升。“社交媒体及其他数字平台内的技术进步,使得迅速向更广泛人群传播虚假信息变得更容易,”他解释道,“此外,人工智能的进步也使得制造更为复杂和具说服力的虚假内容成为可能。”
最令人担忧的是,虚假信息正越来越多地被用作政治和社会操纵的武器,通常是由国家支持的行动,其目标是影响选举、破坏社会稳定以及削弱民主机构,Watt 警告说。
保护策略
Vlasto 指出,对抗虚假信息最有效的方式是掌握叙事权。“监控与您所在行业相关的虚假信息趋势,并用关于您的业务的明确事实更新预先应对这些虚假说法。”他说。
Vlasto 补充道,在重大政治或商业事件期间,拥有一套广为认知的应对虚假叙事的行动手册也非常重要。“例如,如果您正处于敏感的并购过程中,请考虑在潜在交易的相关虚假信息出现时您将如何回应。”
Watt 表示,对抗虚假信息需要结合警觉性、批判性思维和前瞻性措施。他建议在相信或分享信息之前,先通过核实信息来源的可靠性和信誉来验证信息。“信息还应通过多个可靠来源进行交叉验证,以确保其准确性。”
风险及财务犯罪咨询公司 K2 Integrity 的高级董事总经理 Lisa Silverman 建议:“反复核实,务必确保信息来自最佳、最高权威的来源。如果有人向您发送信息,请询问他们的信息来源,并理想情况下,通过另一个——最好是中立且可信——的渠道进行验证。”
Silverman 建议,如果遇到看起来真的荒诞的信息,要进行多重核查。但同时也要明白,看似荒谬的信息有时也可能是真实的。“我们最近遇到一个情况,一位退役的高级军官大约十年来一直在报送一则关于他职业生涯的信息,当我们在一个更大项目中按照流程进行例行核实时,发现那条信息完全不准确。” Silverman 说,这一发现曾引起客户的极大担忧,“不过最终这一问题得以解决,避免了如果事实以不同方式曝光会引起的公众丑闻。”
批判性思维
Watt 建议个人和团队应培养批判性思维,总是对耸人听闻的主张和标题党保持怀疑。“在分享任何信息之前,请花一点时间验证它的真实性。”他建议指出,即使是无意分享虚假信息,也会加剧问题。Watt 还建议虚假信息的受害者应向信息所在的平台运营商报告这些捏造内容。
Vlasto 认为,保持情境意识对于发现一个边缘叙事向主流转移至关重要。“就像任何风险缓解策略一样,处理虚假信息的最佳方式是在离自身核心利益尽可能远的地方解决问题,”他建议,“不要等到数字野蛮人冲到门前——提前规划您的应对方案,并确保能早期察觉新兴风险。”
展望未来
Watt 也坦言:“我们无法控制虚假信息制造者的意图或他们所拥有的能力,但通过了解虚假信息战术的运用方式,我们可以开始阻止这些行动的蔓延,并为合法信息的自由共享作出贡献。”
好文章,需要你的鼓励
"当我看到梵高的每一笔中都有他的痛苦时,才明白我们看的不是作品,而是作者的人生。AI正以惊人的速度接近人类水平通用智能,让Google从'伦敦那帮疯子在搞AGI'转变为全公司共识。DeepMind让AI'合理地幻觉'来创造突破,就像Astra技术让用户第一次惊呼'AI能做到比想象更多'——这不仅是技术革命,更是重新定义创造力的开始。"
微软研究院前不久发布了一篇论文,揭示了一个反常识的现象:当我们和AI进行长时间多轮对话时,它们会变得越来越"糊涂",给出的答案质量也会明显下降。微软研究院的这项研究,用严谨的科学方法证实了这个现象的存在,这不是个别模型的问题,而是几乎所有大模型的通病。研究团队测试了包括GPT-4、Claude、Gemini在内的15个主流AI模型,发现它们在多轮对话中的表现平均下降了39%。
英伟达2025Q1营收440亿美元创纪录,数据中心业务暴涨73%至390亿美元。黄仁勋直言:"中国是全球最大AI市场,出口管制只会让美国失去平台领导权。Blackwell架构推动推理性能提升30倍,微软已部署数万块GPU,AI工厂正成为各国数字基础设施核心。"
KAIST研究团队开发了CLEANMOL框架,解决了大语言模型理解SMILES分子表示法的关键难题。传统模型即使在简单任务如计数分子环数时也表现不佳,因为SMILES编码中结构信息常呈非连续分布。研究通过设计官能团匹配、环计数等确定性任务,大大提升了模型对分子结构的理解。实验表明,预训练后的模型在逆合成等下游任务上表现优异,精确匹配率从45.6%提升至58.1%。这一突破无需昂贵实验数据,为药物开发和材料设计提供了低成本高效的AI支持方案。