CMU华人打破大模型黑盒，Llama2撒谎被一眼看穿!
来自CAIS、CMU、斯坦福、康奈尔、马里兰、宾大等机构的学者最近发现，大语言模型不再是黑匣子，其内部具有可解释的表征，甚至可以被测谎仪检测出撒谎行为。他们使用一种名为LAT的扫描技术观察LLM参与真理概念或撒谎时的大脑活动，并发现LLM内部具有一致的内部信念。通过调控大脑区域，可以影响LLM的幻觉、偏见以及诚实程度。这项研究为提高大语言模型的解释性和可控性迈出了重要一步。
论文地址:https://arxiv.org/pdf/2310.01405.pdf
OpenAI计划自研AI芯片:解决GPU卡脖子问题
OpenAI计划自研AI芯片，以解决AI芯片短缺和高成本问题，考虑潜在的收购目标。英伟达主导市场，导致算力资源稀缺，OpenAI受限于GPU供应。自研芯片或收购公司是解决方案，但需数年时间和巨额投资。
Claude团队成功分解神经网络的不可解释性问题
Anthropic的Claude团队利用字典学习，成功将ChatGPT的神经元分解为约4000个可解释特征，从而克服了神经网络的不可解释性问题。这一方法有望使AI模型更加可理解和安全，为AI领域带来重要进展。
报告链接:https://transformer-circuits.pub/2023/monosemantic-features/index.html
DeepMind研发新AI项目Open-X Embodiment，可控制各种类型的机器人
Google DeepMind与33家其他研究机构合作推出Open-X Embodiment项目，旨在解决机器人领域的挑战，通过通用型AI系统为不同机器人和任务训练模型，提高任务成功率。该项目基于Transformer架构，包括RT-1-X和RT-2-X模型，可适用于多种机器人和任务。
百度CIO李莹接棒小度 大模型或助力小度增长
百度宣布百度集团副总裁、CIO李莹博士出任小度科技CEO。李莹于2004年加入百度，在多个核心业务IntegerField上获得丰富经验，任百度CIO期间，她运用AI优化内部流程。业内分析，此举意味着小度将承担更多使命，李莹的百度AI背景将有助小度在大模型时代取得进步。小度可望借助百度在AI方面的技术优势，在大模型加持下获得进一步发展。
哩布哩布AI重新上线
哩布哩布AI是一个多功能的AI绘画网站，曾在今年9月下线。现已重新上线，提供免费AI图片生成、社区互动和定制化模型选项。
体验地址:https://www.liblib.ai/
原创文章，作者：奋斗，如若转载，请注明出处：https://blog.ytso.com/industrynews/302938.html