如今，机器学习已广泛应用于各个领域和众多问题。在进行机器学习时，一个基本挑战是将特定机器学习技术的抽象数学与具体、现实世界的问题相结合。本书通过基于模型的机器学习方法来解决这一挑战。基于模型的机器学习专注于理解编码假设以及其对系统行为影响的于现实情境中假设从算法所需详细数学中分离出来，使得更容易理解。有关基于模型的机器学习是什么以及它如何帮助解决问题，请参阅名为“机器学习如何解决我的问题？”介绍章节获取更多详细信息。本书独特之处在于不回顾算法或技术类别，而是通过案例研究介绍所有关键思想，并涉及到现实世界应用程序。案例研究在讨论建模假设时起着核心作用，因为只有在应用程序上下文中才能有意义地讨论它们。每个案例研究章节都介绍了一个现实世界应用，并使用基于模型的方法来解决该问题。此外，第一个教程章节探讨了一个虚构谋杀谜团问题。
每一章也会介绍各种机器学习的概念，不是抽象的概念，而是根据应用需求而具体介绍的技术。您可以将这些概念视为构建模型的构件。尽管您将需要投入一些时间来完全理解这些概念，但您很快就会发现，可以从相对较少的构建块构建各种各样的模型。通过学习本书中的案例，你将了解这些组件是什么以及如何使用它们。目的是让您充分了解基于模型的方法的威力和灵活性，以允许您解决机器学习问题。
本书适用于任何想要使用机器学习解决现实问题的技术人员，或者想要理解为什么现有的机器学习系统会这样运行的技术人员。本书的重点是设计模型来解决实际案例研究中出现的问题。最后一章“如何阅读模型”将使用基于模型的机器学习来理解现有的机器学习技术。一些更有数学头脑的读者会想了解模型如何变成可运行算法的细节。在本书中，我们将这些需要更高级数学知识的部分分成了更深入的部分。深潜部分被标记为如下图所示的面板。这些部分是可选的——你可以在没有它们的情况下阅读本书。推理深入研究算法细节的技术部分将被标记为这样。如果你只想专注于建模，可以跳过这些部分。
model-based machine learning
这是一位作为移民在美国成长的科学家的感人回忆录，她在人工智能革命的前沿找到了自己的使命。 《连线》杂志称李飞飞博士为“负责人工智能近期显著进步的一小群科学家之一，这个群体可能足够小，以至于能围坐在一张厨房桌子旁”。
作为全球所熟知的ImageNet创造者，这是现代人工智能的关键催化剂，李博士在该领域的前沿工作了二十多年。然而，她的科学生涯一开始就显得并不可能。作为移民，她的家庭经历了从中国中产阶级到美国贫困的艰难过渡。在他们努力照顾身患重病的母亲的同时，母亲还在不懈地努力帮助他们在新国家站稳脚跟。 然而，飞飞在青少年时期对物理学的兴趣持续存在，并最终使她在我们现在称之为人工智能的重大突破中发挥了关键作用，使她处于全球变革的中心。在过去的几十年里，她的工作让她直面技术所带来的非凡可能性——以及非凡的危险。
《我所见之世界》是一部第一人称的科学故事，从内部记录了世纪的定义性时刻。它提供了一位科学家工作的扣人心弦的故事，以及对人工智能到底是什么以及它是如何形成的清晰而激动人心的解释。这本书情感真挚，智力上不妥协，不仅是对技术学术所需激情的见证，也是对其核心永恒好奇心的见证。
这本书全面介绍了涵盖Transformer架构、BERT模型和GPT系列（包括GPT-3和GPT-4）的详细信息的一系列主题。书中分为十个章节，从基础概念如注意力机制开始，然后是令牌化技术，探索Transformer和BERT架构的细微差别，最后在与GPT系列最新进展相关的高级主题中达到高潮，包括ChatGPT。关键章节提供了深度学习中注意力演化和重要性的洞见、Transformer架构的复杂性、对BERT家族的两部分探索，以及关于使用GPT-3的实践指导。结尾章节概述了ChatGPT、GPT-4和使用生成性AI的可视化。除了主要话题外，本书还涵盖了如DeepMind、OpenAI、Cohere、Hugging Face等影响力大的AI组织。读者将全面了解NLP模型的当前景观、它们的底层架构和实际应用。书中附有伴随文件，包括众多书中代码样本和图表。 特点：
- 提供一系列全面的主题，涵盖Transformer架构、BERT模型和GPT系列的细节，包括GPT-3和GPT-4。
- 特色伴随文件，包括书中大量代码样本和图表。
关于作者 Oswald Campesato是加州大学圣克鲁斯分校的兼职讲师，专长于深度学习、Python、数据科学和GPT-4。他是《Python与机器学习》、《数据清洗》和《开发者的NLP》（均由Mercury Learning and Information出版）等四十多本书的作者或合著者。 目录 1: 注意力机制 2: 令牌化 3: Transformer架构介绍 4: 更深入的Transformer架构 5: BERT家族介绍 6: 更深入的BERT家族 7: 使用GPT-3介绍 8: 更深入的使用GPT-3 9: ChatGPT和GPT-4 10: 使用生成性AI的可视化
这本书提供了关于移动边缘计算（MEC）的全面而独立的知识，这是在下一代无线通信和计算网络中实现智能化的一个非常有前景的技术。随着超越5G/6G和物联网的快速发展，越来越多的智能设备被部署在网络的边缘。由于数据量巨大和传输距离长，中心化的计算机制导致高延迟和网络拥塞。通过将计算和存储资源靠近用户，MEC可以显著提高性能，表现在低延迟、减少通信开销和高质量的用户体验上。此外，在边缘设备上处理数据将增强系统安全性和数据隐私。
这本书由于广泛覆盖了MEC的原理和应用，因此易于交叉参考。它涵盖了MEC的基础知识、关键主题和未来方向。它还详细介绍了MEC中通信、计算和缓存的设计和实现。书中首先介绍了MEC的基本概念、关键技术和网络架构。然后，我们展示了MEC的广泛应用，包括边缘缓存、6G网络、车联网和无人机。在最后一部分，我们介绍了MEC遇到区块链、人工智能和分布式机器学习（例如，联邦学习）时的新机遇。我们还确定了MEC在大流行、工业物联网和灾害管理中的新兴应用。
这本书的目的是提供MEC的基本概念，探索与新兴技术集成的MEC的有前景的应用场景，并给出MEC可能的未来发展方向的见解。为了更好地理解，本书还介绍了在不同场景中MEC模型和应用的几个用例。主要读者包括高年级本科生、研究生、教育工作者、科学家、研究人员、工程师、创新者和研究策略师。这本书主要为无线网络和边缘智能领域的学术界和工业界的学者和研究人员设计。主修计算机科学、电子和通信的学生也将从这本书中受益。这本书的内容对从事MEC研究的高年级本科生、研究生和教师也有用。
无人平台作为新质作战力量在军事行动中日益发挥重要作用,本文围绕打造智能化、无人 化作战能力需求,从战略、战役、战术和技术等层面分给出了构建无人作战体系的必要性,在总结凝 练无人装备发展历程和技术发展趋势基础上,探索提出了构建“以天基为核心、空基为主导、陆海 基协同发展”的无人作战体系构想和路线图,分析梳理了支撑无人作战体系发展理论和应用的研 究方向和关键技术群,对智能化战争新形势下的无人作战体系建设发展具有参考意义。随着人工智能、无人系统等新兴技术发展,“飞 者非鸟、潜者非鱼”的无人化、智能化战争形态已经 拉开大幕,察打一体式、集群自杀式等各种无人作战 装备在众多国际冲突和战争中大显身手,在情报收 集、火力支援、通信中继、打击评估等方面发挥了重 要作用[1] 。 面对新的形势和国家战略需求,打造新型国防 战略体系架构与战略能力,夯实新质力量要素和运 用发展模式,以崭新视角和前瞻思维探索适应新时代 的制胜哲学与作战理念,研究构建具有自身特色的无 人作战体系,对牵引装备体系发展具有现实意义,同时 也是新时期军事斗争的重大迫切亟需。
点击
上方蓝字关注我们
“ 在大型语言模型（LLMs）领域的前沿，Andrej Karpathy博士无疑是一位杰出的领军人物。他于近日在YouTube发布了题为大型语言模型概述的视频，深入介绍了这一革命性技术的方方面面。
Andrej Karpathy博士是计算机科学领域的一位杰出学者，以其在人工智能和深度学习领域的研究而闻名。他毕业于斯坦福大学，之后在OpenAI担任研究主管一职，为开发LLMs的前沿技术贡献良多。他的研究和领导力使他成为LLMs领域的知名专家之一。 在这个引人入胜的视频中，Karpathy博士探讨了LLMs的核心概念，包括推理、训练、梦境以及它们的工作原理。他深入解释了微调的重要性，以及在与LLMs互动时需要注意的事项。该视频还包括了关于LLMs未来发展的展望，包括LLM缩放法则、工具使用和多模态技术等。
第一部分：语言模型（LLMs）
大型语言模型是当今技术领域备受关注的热门话题。这些模型的推理、训练和梦境是研究和开发的焦点。虽然它们可以在某些情况下像有益的助手一样帮助我们，但在与它们互动时，我们必须谨慎对待。 微调只是将梦境“引导”成“有益的助手梦境”，但并不总是准确的。与人类类似，如果LLMs使用浏览或检索，并且答案已经进入其“工作记忆”中，那么我们可以更加信任它们的答案。然而，在进行数学或代码运算等工具操作时，建议进行双重检查。
第二部分：语言模型的未来
未来，LLMs将继续发展壮大。LLM缩放法则将推动更大规模的模型，工具使用将包括浏览器、计算器、解释器以及DALL-E等多种应用。多模态技术将允许LLMs理解视觉和音频信息，思维方式将更接近人类的系统1和系统2思维，自我提升可能会让LLMs成为下一个AlphaGo。此外，LLMs将变得更加可定制，甚至可能成为操作系统的一部分。
第三部分：LLM安全性
随着LLMs的普及，安全性问题也凸显出来。我们必须关注越狱、提示注入和数据污染等安全漏洞，以确保LLMs的使用不会导致潜在的风险。LLM安全性问题需要深入研究和全球合作，以找到解决方案，保护我们的数字世界。 这是大型语言模型令人兴奋的未来，但我们也必须保持警惕，以确保它们的安全性和可靠性。在技术的快速演进中，我们必须找到平衡点，使LLMs成为我们的有益工具，而不是潜在的风险因素。
详细的章节介绍
第一部分：语言模型（LLMs）
- 00:00:00 介绍：大型语言模型（LLM）讨论
- 00:00:20 LLM 推理
- 00:04:17 LLM 训练
- 00:08:58 LLM 梦境
- 00:11:22 它们是如何运作的？
- 00:14:14 微调变成助手
- 00:17:52 到目前为止的总结
- 00:21:05 附录：比较、文档标记、RLHF、合成数据、排行榜
第二部分：语言模型的未来- 00:25:43 LLM 缩放法则- 00:27:43 工具使用（浏览器、计算器、解释器、DALL-E）- 00:33:32 多模态（视觉、音频）- 00:35:00 思维方式，系统 1/2- 00:38:02 自我提升，LLM AlphaGo- 00:40:45 LLM 定制，GPT Store- 00:42:15 LLM 操作系统
第三部分：LLM 安全性- 00:45:43 LLM 安全性介绍- 00:46:14 越狱- 00:51:30 提示注入- 00:56:23 数据污染- 00:58:37 LLM 安全性结论
《浅层与深度》是一系列讲义，提供了对神经网络和机器学习的通俗易懂的介绍。然而，一开始就很明显，这些笔记无法完全覆盖这个快速变化和不断发展的领域。这些讲义主要关注经典的机器学习技术，偏重于分类和回归。其他学习范式和许多最新的发展，例如深度学习，要么没有涉及，要么只是简要提及。
比尔（Biehl）认为，对该领域的基础知识有扎实的了解至关重要，特别是对那些希望探索机器学习世界并且抱有超越仅将某些软件包应用于某些数据集的雄心的人来说。因此，《浅层与深层》强调基本概念和理论背景。这也涉及深入探讨神经网络的历史和前史，在那里为大多数最近的发展奠定了基础。这些笔记旨在揭开机器学习和神经网络的神秘面纱，同时不失对它们令人印象深刻的力量和多功能性的欣赏。
这些讲义的副标题是“对神经网络和传统机器学习的偏见介绍”，原因是显而易见的。尽管目标是提供一个易于接触的领域介绍，但从一开始就明确了它不会成为一个全面、完整的概述。重点是经典机器学习，许多最新的发展无法涵盖。个人而言，我最早接触神经网络是在我作为物理学家的早期生涯。那时，阅读少量论文，或许稍后阅读一本好书[HKP91]就足以保持最新状态并能够为大难题贡献一份力量。我是否夸大其词，有点怀旧？可能。但情况肯定发生了很大变化。如今，大量的出版物使得筛选相关信息和跟上发展成为难题。这些笔记中的主题选择在很大程度上是由我自己的研究兴趣和早期经历决定的。这对于最初关注简单的感知器，正如曼弗雷德·奥珀所说的神经网络研究的氢原子[Opp90]，绝对是真的。此外，这本文本的主要内容是关于浅层系统的监督学习，特别是分类，这反映了我在该领域的主要兴趣。这些笔记可能被视为老派，肯定会被一些时尚的忠实追随者所认为[Dav66]。诚然，文本没有涉及最新的发展，例如深度学习及其应用。然而，在我谦虚的看法中，在探索机器学习世界并且有着超越仅将某些软件包应用于某些数据集的雄心之前，拥有对基础知识的扎实背景知识是无价的。
来源：新华社研究院中国企业发展研究中心
近日，新华社研究院中国企业发展研究中心发布《人工智能大模型体验报告3.0》（以下简称报告）。报告显示，迭代风潮之下，大模型产品正在迅速适应并引领市场变革。其中，讯飞星火、商汤商量和智谱AI-ChatGLM等厂商表现总体优秀。
报告显示，大模型厂商在技术实力上呈现出百家争鸣态势。不同厂商在产品特点和优势上各有千秋。一些厂商在安全性能上表现出色，通过加强模型的鲁棒性和数据保护措施，为用户提供更可靠、更放心的服务。另一些厂商则在易用性上下功夫，致力于降低用户的学习曲线，使产品更贴近用户需求，提升用户体验。 为进一步直观感受我国当前主流科技企业所推出的大模型产品的现状、优势和特点，新华社研究院中国企业发展研究中心于今年10月启动了本次测评研究。与前两次发布的《人工智能大模型体验报告》相比，本次测评在多个方面进行了升级。 本次研究抓取了2023年10月25日-2023年11月6日的数据，通过人机互动提问等形式，对国内主流大模型进行使用体验评测。在评测过程中，不仅考虑模型产品的实际表现，还深入评估了厂商的技术实力和未来发展潜力。此外，评测题库扩充到了1000道，并精选其中的400道进行实际问答测试。这大大提升了评测的广度和深度，能更准确地反映大模型在不同场景和问题下的实际表现。 报告显示，与2023年8月相比，当前中国大模型产品进步显著。具体来看，科大讯飞星火继续保持领先优势，商汤商量、智谱AI-ChatGLM等厂商整体表现优秀。针对各维度能力测评，该报告还给出了相应的案例展示和分析。
在基础能力部分，科大讯飞星火表现抢眼，能够准确地理解指令，并且能够生成图像；字节跳动豆包同样能较为准确地理解指令并且完成部分生产图像的指令；智谱AI-ChatGLM和澜舟科技孟子都能较为准确地理解指令，表现优良。 在智商部分，科大讯飞星火在回答基本正确的同时能够理解指令，不给出多余的回答；商汤商量、澜舟科技孟子和智谱AI-ChatGLM大多数时候能够根据指令回答问题。 在情商部分，各大模型表现差距不大。在给定的场景中基本均能展现较高的灵活性及人文关怀。其中，商汤商量、腾讯混元所给方案详尽，问题切入角度多样，且一定程度上引导用户进行更深入的思考。科大讯飞星火、字节跳动豆包、阿里通义千问、智谱AI ChatGLM和昆仑万维天工在分析问题时能够考虑到不同的策略，并给出令人信服的理由。总体具备较高的情商能力。 在工作提效部分，在不同专业技能场景下测评模型均能一定程度上提升问题分析和解决水平。科大讯飞星火、商汤商量和字节跳动豆包不仅能够较好地解答日常疑惑，在法学、经济学、文学方向上也表现不凡，能够以较快的速度响应并给出较为准确可信的结果。360智脑、澜舟科技-孟子、智谱AI-ChatGLM在多语种翻译、代码编程和文字摘录方面表现优异，给出的回答能够起到辅助作用，并为专业从业人员提供参考。 报告还显示，随着大模型快速升级迭代，大模型的技术能力开始越来越多地体现在产品能力上。在C端，职场、营销、出行、生活、公文、客服等多个场景个人助手陆续上线；在B端，制造、电力、金融、手机、传媒等行业的大模型和产业融合优秀案例也在不断出现。 报告认为，虽然人工智能大模型的发展取得了较大进步，但不可忽视的是，人工智能大模型依然存在不稳定等问题，需要进一步解决，另外大模型的安全问题也不容忽视。报告同时指出，人工智能大模型将进一步推动数字经济和产业经济的深度融合，掀起新一轮技术革命，为社会经济发展提供源源不断的科技动力。 具体内容如下：
来源：国盛证券 去年11月，ChatGPT的“一夜爆火”在全球掀起了 “AI风暴”，无数高科技公司纷纷涌入这一领域开展“军备竞赛”。接近一年的时间，有哪些AI应用跑出来了？有哪些新公司已经“初露锋芒”？下一个“大赢家”又会“花落谁家”？ 国盛证券整理了100个有意思的AI应用，涉及各领域，各方面。这100个有意思的应用在于它们利用人工智能技术，为用户提供了各种有趣、实用的功能和服务。它们可以在日常生活中帮助我们规划旅行、烹饪食物，还可以提供写作、阅读、分析等方面的辅助工具。此外，这些应用还涵盖了多个领域，包括金融、医疗、教育、法律等，为不同行业提供了解决方案和工具。总的来说，这些应用的有意思之处在于它们利用人工智能技术，为用户带来了更便捷、智能化的体验。 基于 LLM 自然语言能力的对话、写作、阅读、分析等应用
1）虚拟角色对话应用方面，character.ai 的安卓和 ios 应用程序在美国的月活用户达到 420 万，与其类似的应用还有 JanitorAI、talkie 等。 2）写作工具 grammarly 官方称全球每天有超过3000 万人和 50000 个团队使用，此外针对小说、营销文案等细分领域各种写作工具百花齐放。 3）基于大语言模型的阅读理解能力，结合搜索和 pdf 文件交互等功能有 ChatPDF、Perplexity AI 等应用。综合了写作、数据分析等功能的办公工具Microsoft Copilot 定价 30 美金每月，验证了 AI 在办公领域的价值。 ** 多模态技术持续发展，图像、视频、音频、3D 等 AIGC 应用**
在图像领域，文生图应用以 Dall-E2、Midjourney、Stable Diffusion 为代表，其中 Midjourney 以 11 人的团队规模取得了约 1500 万用户。此外还有众多图像应用如 Canva 等。 AdobeFirefly 采用积分收费，彰显多模态 AIGC 价值。视频领域，以 Runwayml 为代表的文生视频应用正在快速发展，此外还有视频增强、编辑等方面的 AI 应用如 TopzaVideo AI 等；音频领域，有 CasstteAI 等文生音频应用、语音克隆应用 Elevenlabs等；3D 领域有 Luma 为代表的文生 3D 模型和图像生成 3D 模型等应用，我们认为3D 生成将在游戏、虚拟现实等领域起关键作用。 ** 企业级应用与各领域垂类应用**
1）面向 B 端的应用落地较快，各类 RPA 和流程自动化应用为企业提高运营效率。如 SAP 新推出的 Joule 助手、CRM 服务 salesforce、流程自动化应用 Zapier 等。 2）行业 know-how 与大模型微调结合，各领域垂类应用层出不穷。金融领域有彭博的大模型以及开源模型 FinGPT 等，针对财务分析、金融知识问答以及债券、加密货币等不同领域也均有应用。医学领域在医疗问答、医院流程管理、生物制药等领域均有应用。教育领域，Chegg 和可汗学院等机构结合GPT-4 推出了学习助理。法律领域也有红杉资本与 OpenAI 投资的 Harvey 等应用。编程领域，Github Copilot 已被超过 100 万开发者激活，并被超过 20000 个组织采用，谷歌、亚马逊等科技大厂均在跟进推出相关产品。 ** 面向日常生活以及其他方面有趣应用**
面向消费者，在日常出行、购物等方面均有各类 AI 助手，有原有应用厂商结合自身业务积累为自己的应用引入 AI 能力如旅行应用 PLAN by ixigo，烹饪应用 Botoouille，也有一些独立的产品如 Roam around。还有众多其他娱乐或工具应用如聊天机器人聚合工具 POE、AI 内容检测工具ZeroGPT 等。 除了以上应用，据 whatsplugin.ai 统计，自 3 月份 ChatGPT 推出插件功能以来已经有近 1000 个 ChatGPT 插件，主要集中在在线购物与优惠、数据与研究以及网络开发工具等类别。 具体内容如下：
书籍描述 使用Python将数据转化为可行的洞察主要特点 ● 使用Python全面理解数据可视化和探索性数据分析（EDA）。 ● 通过视觉分析发现数据中的有价值见解和模式。 ● 掌握通过创建引人入胜且有影响力的数据可视化来有效传达复杂概念的艺术。描述Python是一种流行的数据可视化编程语言，因其丰富的库和工具生态系统而闻名。如果你有兴趣深入Python的数据可视化，这本书是开始你旅程的绝佳资源。通过Matplotlib，你将掌握创建各种图表、绘图和图形的艺术。从基本的线性图到复杂的3D可视化，你将学习如何将原始数据转换为引人入胜的视觉效果，讲述引人入胜的故事。深入研究Seaborn，这是一个建立在Matplotlib之上的高级库，发现如何轻松地创建美观且信息丰富的统计可视化。从热图到分布图，你将在数据分析工作中充分发挥Seaborn的潜力。最后，你将学习如何发挥Bokeh的真正潜力，创建引人入胜的数据可视化，允许用户动态地探索和互动数据。阅读本书结束时，你将获得创建各种可视化的知识和技能。你将学到的 ● 利用Matplotlib、Seaborn和Bokeh产生视觉上吸引人的可视化。 ● 精通各种类型的图表、绘图和图形。 ● 制作视觉上吸引人且信息丰富的统计可视化。 ● 使用Bokeh构建交互式和适应性绘图。 ● 探索进行探索性数据分析（EDA）的各种技术。这本书适合谁 这本书适合广泛的受众，包括本科生和研究生、研究人员、数据管理者和数据分析师。它全面探讨了数据可视化，为你提供了作为数据驱动专业人士进步的基本工作。目录
- 理解数据
- 数据可视化的重要性
- 数据可视化用例
- 数据可视化工具和技术
- 使用Matplotlib进行数据可视化
- 使用Seaborn进行数据可视化
- 使用Bokeh进行数据可视化
- 探索性数据分析
这本书深入探讨了生成AI的世界，涵盖了从神经网络基础到ChatGPT和Google Bard等大型语言模型的复杂性。它是任何对理解和应用这一变革性技术感兴趣的人的一站式资源，特别适合那些刚开始接触生成AI的人。《初学者应用生成AI指南》围绕详细章节构建，将指导您从基础知识到实际实施。它从生成AI及其当前景观的介绍开始，接着探讨了神经网络的演变如何导致大型语言模型的发展。本书然后深入探讨了像ChatGPT和Google Bard这样的特定架构，并提供了使用Sklearn等工具的实际操作演示。您还将了解在企业环境中实施生成AI的战略方面的洞见，作者涵盖了关键主题，如LLMOps、技术栈选择和上下文学习。书的后半部分探讨了图像的生成AI，并提供了行业特定的用例，使其成为在各个领域实际应用的全面指南。无论您是希望实施高级模型的数据科学家、希望利用AI促进企业增长的商业领袖，还是对尖端进展感兴趣的学者，这本书都提供了一个简明而全面的指南，帮助您掌握生成AI，平衡理论知识与实用洞察。您将学到什么从神经网络的基础开始，深入理解生成AI，发展到ChatGPT和Google Bard等复杂架构 使用Sklearn实现大型语言模型，包括代码示例和现实应用的最佳实践 了解如何在企业中整合LLM，包括LLMOps和技术栈选择等方面 通过详细的用例和可操作的洞察，了解生成AI如何应用于各个行业，从医疗保健到市场营销再到法律合规 这本书适合谁对生成AI和LLMs感兴趣的数据科学家、AI从业者、研究人员和软件工程师。
OpenAI在2023年11月份举行中首届全球开发者大会“OpenAIDevDay，展示了GPT系列新产品。 2023年11月6日OpenAI举办在旧金山举办了首届全球开发者大会“OpenAIDevDay”。在大会上，OpenAI的CEO山姆·奥特曼（SamAltman）推出了可支持高达1.28万tokens的新模型GPT-4Turbo以及ChatGPT的一系列升级内容。 新产品的亮点是：1）降本；2）GPTsagent。旨在以更低的价格和更多的工具，助力AI应用实现商业化。 模型成本大幅度降低， GPTs-agent可构建个人自定义助手，带来AI应用全面爆发。 OpenAI推出GPTs，让用户轻松定义GPT。用户只需输入指令（预设的prompt），外设的知识库和动作。OpenAI可以结合三者，让不懂代码的人也能更简单地创建应用，降低了用户使用门槛。 Agent生态带来定制GPT全球大爆发，增长速度远超预期。GPT成为大模型的“操作系统”，改变现有AI应用的格局。
从现阶段的技术发展看，机器智能从计算、分析等多方面已经超越人类，智能化必将成为指挥控制系统的未来 发展方向。论文对指挥控制系统现状进行了阐述，对未来指挥控制系统发展进行了设想，为我军指挥控制系统的完善和发 展提出建议。
指挥控制系统是在联合作战背景下，通过对资 源的组织、协调和决策，可为协同作战行动提供精 准高效指挥支持的中枢系统，是作战体系中不可或 缺的一部分。随着各领域科学的发展与进步，现代 战场环境态势复杂多变，对抗节奏较比过去明显加 快，数据量空前庞大。面对错综复杂的战争环境， 人工智能技术可为指挥控制系统提供支持，在战争 需求和技术进步的推动下，发展智能化指挥控制系 统将是世界各国的必然选择。 然而，发展指挥控制智能化要走的路还很长。 本文从指挥控制系统及典型的人工智能系统及产 品的发展现状出发，结合人工智能技术对指挥控制 系统的应用进行展开，提出指挥控制系统智能化的 发展思路，为我国发展指挥控制智能化提供参考。
基础模型，如大型语言模型（LLMs），已显著推进了许多研究领域。特别是，LLMs为推荐系统提供了显著的优势，使它们成为个性化推荐的有价值工具。例如，通过将各种推荐任务如评分预测、序列推荐、直接推荐和解释生成等转化为语言指令，LLMs可以构建能够处理不同推荐任务的通用推荐引擎。此外，LLMs具有出色的自然语言理解能力，使它们能够理解用户偏好、项目描述和上下文信息，以生成更准确和相关的推荐，提高用户满意度和参与度。本教程介绍了如LLMs的基础模型在推荐方面的应用。我们介绍了推荐系统是如何从浅层模型发展到深层模型再到大型模型的，LLMs是如何使生成式推荐成为可能，与传统的区分式推荐相对比，以及如何构建基于LLM的推荐系统。我们从多个角度介绍了基于LLM的推荐，包括数据准备、模型设计、模型预训练、微调和提示、模型评估、多模态和多任务学习，以及基于LLM的推荐系统的可信视角，如公平性和透明度。
在本教程中，我们旨在提供一个全面且连贯的关于LLM在推荐系统中最新进展的概览。我们首先提供关于LLMs和推荐系统基础的初步信息。然后，我们重点关注模型结构、训练、评估和可信度方面的最新进展。 最近，大型语言模型（LLMs）已成为强大的工具，并为推荐系统带来显著好处，使其在个性化推荐方面具有极大的优势。凭借卓越的学习和语言建模能力，LLMs能够构建有效的多任务和多模态推荐引擎。本教程旨在分享关于LLMs在推荐系统中的发展、应用和潜在好处的知识，有助于提高研究人员和从业者对这些模型的理解和采用。教程还提供了一个机会，来解决基于LLM的推荐系统特有的挑战和考虑因素，如个性化、数据隐私、公平性和可解释性，促进对这些模型影响和负责任使用的更深入理解。最后，教程还可以作为交流思想、分享最佳实践和鼓励领域专家合作的平台，最终推动基于LLM的推荐系统的进步和创新。
教程将从五个主要方面介绍基于LLM的推荐 —— 数据集、模型、评估、工具包和实际系统。具体来说：
• 数据集：我们介绍了促进基于LLM的推荐模型的数据集。这对于以数据为中心的机器学习（如基于LLM的推荐系统）尤为重要，因为LLMs的预训练在很大程度上决定了基于LLM的推荐的能力和实用性。 • 模型：在教程的这一部分，我们组织并介绍了最近的基于LLM的推荐模型、它们的关系、LLM基础的推荐模型的各种预训练、微调和提示策略，以及未来改进的可能方向。 • 评估：我们介绍了基于LLM的推荐模型的评估方法。由于基于LLM的推荐模型的多任务、多模态和跨数据特性，评估模型不仅关注推荐准确性，还涉及文本质量、效率和流畅性等多个方面。 • 工具包：我们介绍了现有的开源模型和平台，以促进基于LLM的推荐研究。 • 实际系统：最后，我们介绍了现有的支持推荐功能的工业级LLM系统及其改进的优势和问题。 基于以上丰富的材料，本教程将大大帮助对基于LLM的推荐感兴趣的学术界和工业界的研究人员。
微信扫码咨询专知VIP会员