联邦调查局警告说,黑客正在疯狂地使用像ChatGPT这样的生成式人工智能工具,快速创建恶意代码并发起网络犯罪,这在过去需要付出更多的努力。
联邦调查局在与记者的电话会议上详细说明了这种担忧。并解释说,人工智能聊天机器人助长了各种违法活动:从诈骗者和欺诈者通过ChatGPT完善他们的技术到恐怖分子咨询如何发动更具破坏性的化学攻击工具,各种手段无所不包。
根据联邦调查局高级官员的说法,“我们预计,随着时间的推移,人工智能模型的采用和普及度的提高,这些趋势将增加明显。“他们表示:”违法者正使用人工智能来补充他们的常规犯罪活动,包括使用人工智能语音生成器冒充受信任的人,以欺骗被害者亲人或老人。“
这不是我们第一次看到黑客使用ChatGPT等工具并扭曲它们来创建危险的恶意软件。2023年2月,安全公司 Checkpoint 的研究人员发现,恶意行为者已经能够更改聊天机器人的 API,使其能够生成恶意软件代码,并使病毒创建让任何潜在的黑客都能触手可及。
ChatGPT 是安全威胁吗?
联邦调查局的立场与2023年五月采访的一些网络专家的态度截然不同。这些网络专家告诉我们,人工智能聊天机器人的威胁在很大程度上被夸大了,大多数黑客从更传统的数据泄漏和开源研究中发现了更易于攻击的代码漏洞。
例如,Bitdefender的技术解决方案总监Martin Zugec解释说,“大多数恶意软件编写新手不太可能具备绕过聊天机器人反恶意护栏所需的技能”。除此之外,Zugec解释说,“聊天机器人产生的恶意软件代码的质量往往很低。”
这为联邦调查局的说法提供了一个反驳,我们必须进一步观察以证实哪一方是正确的。随着ChatGPT制造商OpenAI停止使用自己的工具来检测聊天机器人产生的抄袭这一现象来看,其后果并不令人鼓舞。如果联邦调查局是对的,那么在与黑客及其对聊天机器人驱动的恶意软件的斗争中,我们可能会更加艰难。
好文章,需要你的鼓励
人们不仅在年轻和上学时学习,他们在整个成年生活中都在学习新的技能——在工作中、培养爱好、学习新语言、或者追求工作和业务驱动型学习的需求。从这个角度来看,学习和教育与其他任何活动一样,都是一项基本的日常活动。毫无疑问,AI对教育的影响,正在对我们的日常生活带来深远的影响。
思科希望通过这次更新在热切拥抱AI功能的联络中心行业中占据领先地位。几乎每个联络中心软件提供商都在提供某种AI驱动的聊天机器人,以处理基本的客户查询,然后将更困难的查询交给人工代理。
施耐德电气中国软件研发中心AI创新负责人张毅与阿里云智能集团公共云华北大区解决方案总经理陈立伟、意言科技联合创始人兼COO王以宁、施耐德电气博利德自动化系统(上海)有限公司总经理王冬梅,最近也展开了一场关于AI如何推动快消品企业在市场营销、供应链管理、产品研发与创新以及客户服务等领域实现智能化转型的深入探讨。