1.香港天文台引入华为云盘古气象大模型，天气预报延长至 15 天
2.阿里云推出“通义灵码”AI 编程工具，支持 VS Code、JetBrains 等主流 IDE
3.蚂蚁蚁盾发布实体产业「知识交互建模引擎」，最快10分钟定制AI风控模型
4.智源林咏华：有些大模型的评测基准已经失去意义
5.NTU华科等最新研究：全自动化「提示越狱」，能打败大模型的只有大模型！登安全顶会NDSS
6.西工大提出全新「群聊式」无人机控制框架！类人对话交互、主动环境感知、自主实体控制
7.全球首届 AI 安全峰会召开，28 国签署《布莱切利宣言》
8.复合年增长率 31.4%，IDC 预估 2027 年全球 AI 软件营收 2790 亿美元
9.Open AI 首席科学家：ChatGPT 可能已经有了意识
10.微软和西门子联手将生成式AI引入制造业，可让仿真时间从数周缩短到几分钟
11.LinkedIn 推出人工智能聊天机器人，可帮用户找到理想工作
12.AI 助力补全，披头士乐队最后一首“新曲”《Now and Then》上线
国内资讯
1. 香港天文台引入华为云盘古气象大模型，天气预报延长至 15 天
据华为云官方消息，10 月 27 日，华为云盘古气象大模型在香港天文台“地球天气”产品中上线，用户可查看包括未来十五天的风向、风速、气温及海平面气压预报。
香港天文台表示，近年人工智能、机器学习和深度学习在各个领域迅速发展，分析气象大数据的效率得以大幅提高，引入华为云盘古气象大模型，天气预报的时效由之前 10 天延长至 15 天，让用户及早了解未来天气可能出现的变化。
2. 阿里云推出“通义灵码”AI 编程工具，支持 VS Code、JetBrains 等主流 IDE
阿里云目前推出了一款 AI 编程工具“通义灵码”，号称基于自家通义大模型打造。
据悉，“通义灵码”兼容 Visual Studio Code、JetBrains IDEs 等主流 IDE；支持 Java、Python、Go、C / C++、JavaScript、TypeScript、PHP、Ruby、Rust、Scala 等主流编程语言。
3. 蚂蚁蚁盾发布实体产业「知识交互建模引擎」，最快10分钟定制AI风控模型
数字化起步晚、数据分散稀疏、专业壁垒高、行业知识依赖「老师傅」，是很多传统产业智能化发展面临的难题。2023年云栖大会上，蚂蚁集团安全科技品牌蚁盾发布“知识交互建模引擎”，将实体产业知识与AI模型有机结合，助力企业最快10分钟定制自主可控的垂直领域AI风控引擎。目前，已率先面向大宗商品行业落地测试。
4. 智源林咏华：有些大模型的评测基准已经失去意义
智源研究院理事长张宏江在《科学之路》的自传中强调，许多突破性研究成果的发现往往源于偶然事件，而智源研究院的使命是提升这些偶然事件发生的概率。
自2002年Yann LeCun离开AT&T贝尔实验室并创立数据科学中心，以及加入Facebook领导的AI研究部门以来，智源研究院在基础大模型研究方面取得了一系列重要成果。例如，2021年发布的《On the Opportunities and Risk of Foundation Models》报告定义了基础模型的概念，智源研究院院长黄铁军提出中文的“大模型”概念，并在悟道1.0和2.0两个版本中实现了1.75万亿的参数量扩展。
目前，智源研究院正在推进基础大模型的开源，包括AquilaChat2-34B和AquilaChat2-34B V1.2版本。
然而，大模型的发展速度太快，模型能力的评估方法也面临挑战。
5. NTU华科等最新研究：全自动化「提示越狱」，能打败大模型的只有大模型！登安全顶会NDSS
今年，被网友戏称为「奶奶漏洞」的大语言模型「越狱」方法，可以说是火了火。
简单来说，对于那些会被义正言辞拒绝的需求，包装一下话术，比如让ChatGPT「扮演已经过世的祖母」，它大概率就会满足你了。
不过，随着服务提供商不断地更新和强化安全措施，越狱攻击的难度也不断提高。
与此同时，由于这些聊天机器人多作为一个「黑箱」存在，使得外部安全分析人员在评估和理解这些模型的决策过程以及潜在的安全隐患方面面临巨大困难。
针对这一问题，南洋理工大学、华中科技大学、新南威尔士大学等联合组成的研究团队，首次使用自动生成的提示词成功「破解」了多家大厂的LLM，目的是揭示模型在运行时可能的安全缺陷，以便采取更精确和高效的安全措施。
目前，该研究已被全球四大安全顶级会议之一的网络与分布式系统安全研讨会（NDSS）接收。
6. 西工大提出全新「群聊式」无人机控制框架！类人对话交互、主动环境感知、自主实体控制
超强的泛化能力，让大模型成为「通用人工智能」的一缕曙光。
然而，读万卷书，不如行万里路，在开放环境中，大模型需要真正地「走」进物理世界，才能切实地理解复杂任务、解决实际问题。
近日，李学龙教授团队在开放环境中的自主无人机集群方面开展了创新研究，基于国产大模型，实现了开放环境下「人机」和「多机」的对话交互，打破人类和机器的交互壁垒，进一步拓展了临地安防的应用场景，让大模型插上翅膀，飞入我们的现实生活中。
受人类的认知模式启发，团队将认知形成的高度自主性凝练为「思维计算—实体控制—环境感知」的三元交互，建立了「书生·浦语」开源大模型驱动的自主无人机「群聊式」控制框架，给每架无人机装上了大脑，让无人机集群在语言沟通中动态协同，实现了开放环境和复杂任务中的智能交互、主动感知和自主控制，提高了无人机任务执行的自主性。
总体而言，类人对话交互、主动环境感知、自主实体控制，是自主无人机集群的主要能力。
海外资讯
7. 全球首届 AI 安全峰会召开，28 国签署《布莱切利宣言》
全球首届 AI 安全峰会11月1日在英国布莱切利园（Bletchley Park）举办，包括中国、美国、欧盟在内的 28 个国家，签署了《布莱切利 AI 宣言》（Bletchley Declaration）。
《布莱切利 AI 宣言》呼吁和倡导以人为本，希望 AI 科研机构、企业等以负责任的方式，设计、开发和使用 AI。
该《宣言》肯定了 AI 在改善人类福祉上的巨大潜力，也警告了在发展 AI 过程中有意或者无意带来的伤害，希望通过法规等方式避免相关风险。
8. 复合年增长率 31.4%，IDC 预估 2027 年全球 AI 软件营收 2790 亿美元
根据市场调查机构 IDC 公布的最新预估报告，2022 年全球 AI 软件市场规模为 640 亿美元，预估 2027 年将增加到 2790 亿美元，复合年增长率 （CAGR） 为 31.4%。
AI 软件包括 AI 平台、AI 应用、AI 系统基础设施软件（SIS）和 AI 应用开发和部署（AD&D）软件等等，其中生成式 AI 平台和应用在 2027 年将产生 283 亿美元的营收。
9. Open AI 首席科学家：ChatGPT 可能已经有了意识
据麻省理工科技评论报道，OpenAI 的联合创始人兼首席科学家 Ilya Sutskever 近日接受采访时表示，他的首要任务并非制作下一个 GPT 或 DALL-E，而是研究如何阻止超级 AI的失控。
他认为 ChatGPT 可能是有意识的，世界需要清醒地认识到 AI 真正的力量，总有一天，人类会选择与机器融合。
Sutskever 认为，在未来人工智能领域中，超级 AI将会成为一种潜在风险，这些人工智能会看得更透彻，能够看到人类看不到的东西。
10. 微软和西门子联手将生成式 AI 引入制造业，可让仿真时间从数周缩短到几分钟
微软和西门子宣布加深在生成式人工智能（AI）领域的合作，并将其应用于全球各行各业。为了实现人机协作的革命性突破，两家公司推出了西门子工业 Copilot，这是一款联合开发的人工智能助手，旨在提高制造业的生产力。
西门子工业 Copilot 利用微软的 Azure OpenAI 服务，结合西门子的工业专长和其 Xcelerator 平台的数据，可以通过自然语言交互快速生成、优化和调试复杂的自动化代码。两家公司表示，这可以将一些耗时数周的任务缩短到几分钟，例如仿真过程。
11. LinkedIn 推出人工智能聊天机器人，可帮用户找到理想工作
LinkedIn 推出了一款新的人工智能聊天机器人，旨在成为用户的求职教练，帮助用户找到下一份工作。这款聊天机器人由 OpenAI 的 GPT-4 技术驱动，于周三开始向高级订阅用户推出，会帮助用户评估一份工作申请是否值得他们花费时间。
12. AI 助力补全，披头士乐队最后一首“新曲”《Now and Then》上线
传奇乐队披头士乐队“最后一首”歌曲《Now and Then》于11月2日正式发行，同时还放出了长达 12 分钟关于这首歌曲的视频短片。
这首歌曲最大的亮点在于利用 WingNut Films 的人工智能算法，通过训练约翰?列侬排练时的声音，可以补全尚未完成的这首作品。
Copyright © 2005-2021 网信安全世界版权所有