趋势科技：明年请小心生成式 AI 产生的社交工程！

以 ChatGPT 为首的生成式 AI 应用潜力无限，但反过来说，用在骇客攻击、网路诈骗同样也令人担忧。台湾资安厂商趋势科技今天发表《2024 资安年度预测报告》，明确指出在生成式 AI 协助下， 例如变脸诈骗、鱼叉式网路钓鱼等网路诈谝能力已大幅提高！

趋势科技指出生成式 AI 可以生成真实度更高的人脸、经历以及对话能力，让网路诈骗钓饵更具吸引力，得手机会大幅提升。根据 FBI 指出社交工程技巧网路犯本来就是受害者数量最多的犯罪、也是最赚钱的手法之一，预期 2024 年骇客会结合更多元的 AI 工具（例如聊天机器人、伪造语音相互搭配），制造出如虚拟绑架更多重面向的威胁。

像是今年出现的骇客版 ChatGPT「WormGPT」，以及後来出现的 WolfGPT、FraudGPT 都属此类，WormGPT、WolfGPT 可产生可用於实施网路犯罪的文字、程式码和其他资料格式，FraudGPT 则是直接生成一个非常拟真的诈骗网页诱人点击。

推荐阅读：ChatGPT 暗黑版：诈骗好夥伴 WormGPT！专为黑帽骇客而生

另外生成式 AI 本身的安全性也是越来越严重的问题，大型语言模型（LLM）本身更容易遭遇「资料下毒」（data poisoning）。资料下毒简单来说就是透过窜改学习资料，或是直接入侵模型的资料库或流程架构内来恶意操弄 LLM 的表现与行为，除了更容易生成有问题、充满恶意的内容之外，还更可能导致 LLM 泄漏出机密资料。

除了生成式 AI 之外，趋势科技也预测「蠕虫自动化攻击」会成为接下来骇客集团找到系统漏洞，攻击云端的首选武器，像今年微软 Azure AD …

80% 工作或被颠覆，OpenAI 研究哪些职业最易受 ChatGPT 波及

什麽文章让人越写越悲观？开始写稿到现在，这篇文章让笔者对未来最没信心，源头还是 AI。OpenAI CEO 日前受访时说，他也有点怕 ChatGPT，认为它可能会「消灭」很多工作，但也可能产生新职业。

可能为呼应 CEO 发言，「罪魁祸首」OpenAI 亲自下场，和宾夕法尼亚大学写出重量级研究报告，探索大型语言模型会怎麽影响美国劳动力市场，估计对 19% 职位、至少 50% 工作内容受影响；80% 职位至少有 10% 内容或多或少受波及。

80% 职位或颠覆，AI 革谁的命

人人都知道 AI 越强大，对人类工作影响就越大。现在 AI 确实更强大，且生怕你不知道它有多强，还用报告量化自己对劳动力市场的影响。OpenAI 引入一概念：暴露（Exposure），标准是使用 ChatGPT 或相关工具工作，确保品质同时能否减少工时。分为以下几级：

  • E0：没有暴露。
  • E1：直接暴露，仅用大型语言模型（如 GPT-4 聊天介面），工时至少减 50%。
  • E2：间接暴露，单独使用大型语言模型无法有效果，但此基础上开发的额外软体（如图像产生），可将工时至少减少 50%。

E0 可能就是 AI 时代的「铁饭碗」，包括体力劳动，OpenAI 列出 34 …

免排队免费用！微软推运用 DALL-E AI 影像生成技术的 Image Creator 影像建立者

虽然把 Image Creator 翻作「影像建立者」总觉得给人 Word 的文字艺术师的感觉（好像 Low 掉 XD）。不过微软最近对於 AI 相关的发展，可以说是在投资 OpenAI 的合作之下，获得了大大的进展。今天宣布已经将 DALL-E 技术融入了自家的服务之中。提供免费免排队就可以进行将文字描述转为图片的 AI 影像生成功能。继续阅读免排队免费用！微软推运用 DALL-E AI 影像生成技术的 Image Creator 影像建立者报导内文。

免排队免费用！微软推运用 DALL-E AI 影像生成技术的 Image Creator 影像建立者

使用方式来说，目前有透过 Edge 浏览器 / Bing Chat 服务直接透过要求的方式，要 Bing 帮你找 Image …

订做企业专用 AI，人工智慧训练服务正在崛起

人工智慧虽然可以成为工作上的好帮手，但从企业角度来看，提高生产力并非唯一考量，如何在增加竞争力的同时，依然保护商业机密，还要让 AI 专门为自己的商业领域服务，就需要客制化生成式 AI 以及人工智慧沟通与设计师。

相信不少朋友都体验过 ChatGPT、BinChat、MidJourney 和 Notion AI 等人工智慧工具，虽然这些工具能够达成让人惊艳的成果，但实际想运用在工作上仍有一些局限。它可能缺乏你商业领域的资料，你也没有那麽多时间去研究如何写出有效的提示语，更重要的是，如果真的涉及商业机密，谁能够保证你和 AI 的对话不会外流？

趁着这个潮流，多家新创公司正在转向提供一种新服务：企业客制化 AI。包括 Jasper、Typeface、Qunative 等，并成功吸引了数千万甚至上亿美元的投资人注金。他们能够依据企业的特定需求，整合专业资料後，提供一个客制化的生成式人工智慧，简单说，就是一个只为你的公司服务的 ChatGPT，它拥有正确的专业资料，让你可以快速处理工作，更重要的是，这些资料全都留在公司手上，而不会流传到其他人手上。

其中更为特别的是一间名为 SambaNova 的企业，他们在 2017 年主打开发人工智慧专用硬体，而获得投资，现在他们更希望透过这种软硬体整合的方式，替企业打造全套的 AI 解决方案。

「我们跟 NVIDIA 的 GPU 不同，我们可以依据客户需要使用的模组，制作专属的晶片。」SambaNova 执行长 Rodrigo Liang 指出，这样的硬体架构更加省电，效能也更优秀，可以替企业客制化 AI 跑出最佳效率。

具体来说，采用 SambaNova Suite 服务的公司，可以在私人环境下，开始训练自己的 …