最近看的资讯
用大模型编写的代码存在的安全隐患
小模型或者本地部署的 量化模型 在处理被恶意插入有问题提示词时, 生成的代码很容易就会被加入后门代码 .
屏幕截图的不可见注入
越来越多的公司推出了自己的 AI 浏览器，它通过截图阅读屏幕。现在已经出现在屏幕嵌入人眼不可见、但机器可见的文本，进行模型注入，让模型执行恶意操作（上图）。
Unicode 隐形字符的病毒
本文介绍一个令人叹为观止的 JS 病毒，它的恶意代码是用 Unicode 隐形字符写的，人眼看不见（上图的空白处），但是引擎会执行这些代码。
AI写代码成安全漏洞重灾区，谁来负责？
最新研究表明，五分之一的安全漏洞可能由AI生成的代码引起。尽管AI代码的生成速度加快，但其中的安全隐患也日益增多。专家警告，AI代码中的漏洞难以追踪和修复，且责任归属不明。报告指出，69%的组织已发现AI生成代码中的漏洞，尽管全球24%的生产代码由AI编写。这引发了关于AI代码责任归属的混乱，可能导致更难应对安全问题。
"开发者没有编写这些代码，信息安全团队也没有审查它们，法律也无法确定当出现问题时的责任归属。这是一个真正的风险噩梦。"
人工智能助手45%的时间会错误呈现新闻内容
这个新闻有种评论是说BBC 想证明看他的新闻是更好的选择
- 由欧洲广播联盟（EBU）和BBC主导的新研究发现，AI助手在新闻内容的准确性和完整性方面存在严重问题，无论使用哪种语言、哪个地区或哪个AI平台
- 这项国际性研究涉及18个国家的22家公共服务媒体机构，评估了ChatGPT、Copilot、Gemini和Perplexity四款领先的AI工具
- 研究发现，45%的AI答案存在显著问题，31%的答案存在严重的来源问题，20%的答案存在主要的准确性问题
- Gemini的表现最差，76%的回答存在重大问题，主要原因是来源信息不准确
- 尽管与BBC今年的早期研究相比有所改进，但错误率仍较高
- 研究指出，AI助手已经成为许多用户的新闻获取工具，7%的在线新闻消费者使用AI助手，25岁以下的用户中这一比例高达15%
- 研究强调，这些问题不仅是个别现象，而是系统性、跨境和多语言的，威胁到公众对信息的信任