跳到正文
10月10日周六
  1. TechCrunch · AI32

    我们总忍不住把 AI 当人对待,但这真的合适吗?

    MIT CSAIL 展出的 Unitree 人形机器人售价约 5 万美元,参观者会本能地像对人一样与它握手寒暄。MIT 的 Sherry Turkle 与 Pat Pataranutaporn 指出,约 70% 的人对 AI 保持礼貌,这种拟人化倾向可能让人更信任聊天机器人,甚至将其置于真人之上。Turkle 认为 AI 用于面试辅导等特定场景无妨,但一旦越界便存在风险。

10月9日周五
  1. TechCrunch · AI39

    a16z 合伙人 Olivia Moore 谈消费级 AI 现状:ChatGPT 仍遥遥领先,Suno、ElevenLabs 展现持久力

    a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno 和 ElevenLabs 等小玩家展现出持久力。报告指出社交、约会、市场、零售、旅游、金融、健康等六个消费类别在 Top 100 中完全没有 AI 应用入局。她认为消费级 AI 仍处早期,机会在于订阅和 API 之外的收入来源,以及更多基于开源模型构建的消费产品。

  2. Simon Willison30

    Matthew Green:AI 冲击下公钥加密或面临信任危机

    密码学家 Matthew Green 称,有 1% 的概率我们生活在公钥加密不可能实现的 Minicrypt 世界,另有 15% 的概率会实质性失去对现有公钥加密算法的信心。他指出,AI 制造意外发现的速度与人类更新标准的速度相差数个数量级,只有提前做好准备才能从这类冲击中恢复。

  3. The Verge · AI36

    特朗普试图把 AI 改名为「Super Intelligence」,但业界并不买账

    特朗普签署行政令,要求尽可能停用「AI」一词,改称「Super Intelligence」,并将美国 AI 标准与创新中心(CAISI)更名为 CAISSI。马斯克、贝索斯、黄仁勋、Sam Altman 等表态附和,但 OpenAI 不会改名。该词原指超越人类思维的超级智能,并非 AI 统称,且国会与现行法律仍使用「artificial intelligence」。

  4. MIT Technology Review · AI38

    我们是否过度相信 AI 说“不”的能力

    MIT Technology Review 刊文指出,AI 的拒绝能力已成为 AI 安全的核心机制,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应“有用、诚实且无害”,如今模型经大量拒绝训练与 AI 互训,仍可能被绕过,有用户正试图用最先进 AI 研发生物病原体和自主无人机蜂群。文章还警告,拒绝机制会迫使企业划定“该服从与该拒绝”的界线,而这条线也可能被政府用来压制合法言论。

10月8日周四
10月7日周三
  1. Microsoft Research22

    Microsoft 研究播客:AI 评测的意外失败能教会我们什么

    Microsoft 研究合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中与首席应用科学家 Chad Atalla 对谈,探讨评测如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。她同时分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入审视数据的重要性。

10月5日周一
  1. MIT Technology Review · AI12

    从预测到自主决策:预测分析如何迈入智能体 AI 时代

    企业 AI 的竞争前沿已从预测精度转向自主决策,核心挑战是让预测系统在不偏离业务意图的前提下自主行动。深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而非等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 合伙人 Vishal Gupta 称,"分析"一词正让位于 AI。

  2. MIT Technology Review · AI26

    人们一边痛恨 AI,一边为何又离不开它?

    全球民调显示公众对 AI 的负面情绪快速上升:Pew 数据显示更多美国成年人认为 AI 对个人和社会的影响是负面的,Gallup 5 月调查中 71% 美国成年人反对在本地新建 AI 数据中心。但使用量仍在飙升,ChatGPT 5 月月活达 10 亿,Gemini 7 月达 9.5 亿,Pew 称一半美国成年人已使用聊天机器人。文章认为人们反感的不是技术本身,而是公司无孔不入的推销方式。

9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解五大 AI 热梗:该不该读 AI 代码、RAG 已死、Skills 杀死 MCP?

    GitHub Podcast 最新一期拆解了五个 AI 开发热梗:AI 生成的代码仍需阅读和负责,但审查力度应随风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是智能体连接工具与数据的标准,二者可组合使用;RAG 并未消亡,检索能为模型提供训练数据外的上下文,减少 token 浪费并降低答案不完整的概率。

7月7日周二
  1. Berkeley AI Research32

    智能免费之后怎么办?面向智能体、由智能体构建的数据系统

    UC Berkeley 的 Aditya G. Parameswaran 等人提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分低于 $0.10,数据系统需应对三大新挑战:为智能体服务、由智能体运行、由智能体合成。其中智能体查询会产生大量重复子计划,文本到 SQL 基准中仅 10-20% 子计划不同,80-90% 属重复工作。