CIBB 2026:AI伦理也能代码化?都柏林大学提出计算伦理框架
龙哥之前吐槽过,AI伦理大多停留在原则文档阶段,无法落地验证。这篇论文直接上Z3求解器,把伦理规则编译成逻辑公式,跑一个sat/unsat就知道系统有没有违规。用金融心理健康数据做案例,验证了知情同意、公平等约束的机器可检查性。虽然还缺真实数据测试,但方向很正——让伦理不再只是文档,而是可执行的代码。
LONGGE AI RESEARCH DAILY
每天筛选值得关注的 AI 论文,用工程视角拆解方法、实验和真正的落地价值。
目前已发表 1655 篇文章
龙哥之前吐槽过,AI伦理大多停留在原则文档阶段,无法落地验证。这篇论文直接上Z3求解器,把伦理规则编译成逻辑公式,跑一个sat/unsat就知道系统有没有违规。用金融心理健康数据做案例,验证了知情同意、公平等约束的机器可检查性。虽然还缺真实数据测试,但方向很正——让伦理不再只是文档,而是可执行的代码。
继6月聊过Adobe的定量LLM评判器之后,Google这篇直接将数据审计玩出了新高度。不重训练、不跑几千次微调,靠推理前向传播就能近似Shapley值,把审计搜索空间干掉99.1%,在HelpSteer2和HH-RLHF里揪出了一堆人类标注翻车的样本,甚至发现评估基准里藏着“错误答案才是正确”的坑。对搞LLM对齐、数据质量的同学来说,这是真正的降维打击。
光子饥渴链路上,一丁点残余色散就让量子接收器「抓瞎」——模式失配等于白白损失信号能量。北邮团队直接推导出了盲信道估计的量子极限,并且用一个三端口量子脉冲门加光子计数探测器就能原地达到它。结果漂亮:不用实时反馈,误差率稳在标准量子限之下。量子通信的工程闭环又近了一步。
每次跟AI聊天,你都以为只是“好好说话”?宾州州立大学的这篇新研究告诉你,你的语气决定了LLM的“烧钱”速度和回答质量。对GPT-4o吼一顿,竟然比礼貌请求更准更便宜。最高推理成本差异达到44.3%!想省token?先学学怎么“怼”模型。
当智能体依赖世界模型来预判行动后果时,这个"预言家"可能会被恶意操纵。柏林工业大学的最新研究揭示了世界模型的七类安全漏洞,攻击成功率高达95%!本文系统剖析漏洞根源,并给出实用防御建议——AI安全领域必读。
你是不是经常让ChatGPT帮你评个点子的好坏?但你知道它的评判标准和你一样吗?剑桥学者刚刚揭开了谜底:LLM只认“新不新”,根本不关心“火不火”!这篇论文系统比较了六大主流模型的创造力评估标准,并验证了对实际评分的影响,值得所有用AI做决策的人一看。
当你的AI模型面对不同形状的训练数据时,是不是每次都要重新训练?挪威团队提出潜变量PDE映射,只需把不同几何的物理方程通过变形梯度“拉”到一个标准形状上,就能让模型用超少样本学会处理新形状。在心脏电生理模拟上,对旋转几何的误差直降4倍!物理信息机器学习爱好者不容错过。
你满脑子都想的是暗物质到底是个啥,是从哪儿冒出来的?东京大学和东北大学的团队另辟蹊径,把目光投向了宇宙早期一种名不见经传的“顶级缺陷”——全球单极子。他们用超大规模的数值格子模拟,首次把这个缺陷演化过程中释放的“暗物质种子”——南布-戈德斯通玻色子——的能谱给扒了个明明白白。结果不仅把一种暗物质候选者给找着了,还顺手解决了另一个宇宙学悬案,思路清奇又硬核,值
还在为训练大模型时显存爆掉而烦恼?AdamW为671亿参数的MoE模型准备了50.6GB的优化器状态,比模型权重本身还大4倍!独立研究者Nuemaan Malik发现,MoE模型的不同部分(骨干网络、专家层、路由器)对优化器状态的需求截然不同。SkewAdam通过分层分配,将优化器状态压缩到1.29GB(仅占AdamW的2.6%),峰值内存降至31.3GB,
NVIDIA开源了Molt,一个专为智能体强化学习(Agentic RL)设计的PyTorch原生训练框架。代码量仅约8600行,却能在吞吐量上与业界顶级的Megatron堆栈掰手腕。对于天天改算法的研究者来说,这简直是福音,终于不用在层层抽象和复杂配置里找东西南北了。
给大模型训练强化学习,框架代码动辄数万行,改个奖励函数得绕三天。NVIDIA最新开源Molt,核心RL代码仅8.6K行,但能流畅训练700B规模的MoE模型,性能还跟Megatron-based框架平起平坐。这框架到底有啥魔力?值不值得你的团队迁移?咱们今天就来扒一扒。
强关联极限一直是密度泛函理论的“鬼门关”,主流泛函(LDA、PBE、SCAN)进去就崩。但Perdew小组今天用两电子谐波原子证明:只要把对称性破了、加上自相互作用校正,就能在经典极限下精确到零误差!这种“以破为立”的思路,做DFT的同学一定要看看。
LONGGE AI COMMUNITY
加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。
加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。
微信扫码加入知识星球