在2023国际人工智能大会（WAIC）启明创投论坛“生成式AI与大模型：革新与立异”上，启明创投携手未尽研讨，一起发布重磅陈述《生成式AI》| State of Generative AI 2023。

请重视启明创投微信大众号，在微信后台回复“生成式AI陈述”或点击“阅览原文”，获取完好陈述下载办法。

如果说2022年被称为生成式人工智能之年，分散模型使用获得打破，ChatGPT出生，一系列开创性的研讨论文宣布，2023年则把大模型面向了一个顶峰，以GPT-4发布为标志，生成式人工智能，朝着通用人工智能的方向，进入了立异使用的阶段。

这一阶段最重要的特征，是使用、研讨、监管，合力拓荒着生成式人工智能的立异之路。

01/

立异使用

人们很快从生成式人工智能中看到了新的商业生态的呈现，看到了一层又一层的技能，如核算、模型和使用；看到了生成的内容，如文、图、视频、代码、3D结构、多模态；也看到了揭露数据、笔直数据、组成数据、向量数据，用于大大小小的模型。

生成式人工智能，在我国好像受到了愈加热心的接收：政府鼓舞开展通用人工智能；任何一家大企业都无法不重视它；许多从事常识作业的中小企业，现已先用起来再说。面对这一革命性的技能，一切企业都被卷进。它们节奏不同，介入程度不同，成为新技能浪潮下的守成者、立异者、采纳者。它们的利润率被*的改变了。

算力现在是最稀缺的资源，也处于最简单获利的要津。算力是大模型本钱结构中*的一块，GPU的功能，实际上决议了这个新式职业的步骤。跟着算力与模型的前进，更多草创企业正在涌入，它们抢到了时刻的盈利，但也面对竞赛和或许的巨子碾压。能够说，这是草创企业的蓝海，也有航道下的暗礁。

竞赛促进了立异。与2022年快速呈现出的生产力东西方向的创业公司不同，2023 年，有更多份额的新公司聚集在底层技能的立异；大模型创业公司也开端分解，在通用大模型创业公司方兴未已的一起，许多面向医疗、电商、科研、工业、自动驾驶和机器人等特定方向的笔直大模型公司开端呈现。

02/

前沿研讨

2022年和2023年，是生成式人工智能技能获得打破的两年，咱们梳理了论文，发现生成式人工智能范畴的一个杰出特征，是研讨与立异进程的亲近结合，许多在企业内部完成，敏捷推出用例和产品。这种研讨与创业的一体化，草创企业和危险本钱起到了重要的效果，而美国科技巨子和首要人工智能企业的研讨投入与人才，包含一些底层技能的研讨，这些年来现已超过了大学等研讨组织。

人工智能的前沿正在向未来推动。虽然从GPT-4的技能陈述，到微软的研讨论文，都展示出它所具有的接近于人类的文字处理才能、数学推理才能，以及许多专业范畴的常识。“咱们以为它能够合理地被视为人工通用智能（AGI）体系的前期（虽然仍不完好）版别。”可是，在通往通用人工智能的道路上，需求研讨和处理的问题反而更多了。如决心校准、长时间回忆、持续学习、个性化、规划和概念跨过、透明度、认知错误和非理性，等等。

曩昔半年最重要的研讨方向，是破解和了解大模型奥秘而又令人兴奋的智能“呈现”。大模型既需求逾越对下一个词的猜测才能，也需求一个更丰厚、更杂乱的“慢考虑”深层机制，来监督“快考虑”猜测下一个词的机制。

那些*的前沿研讨，一定是研讨和处理技能规划使用中遇到的问题。研讨怎么削减错觉，调教大模型愈加精确地输出实在的内容，练习出更强的推理才能；怎么更集约地练习模型，下降门槛，推出新产品，让更多的各行各业和顾客都能用上；怎么能像人相同，与实在的物理国际互动；怎么成为人类杂乱作业的帮手，规划并协助履行科学实验；怎么影响工作，然后做出方针的呼应；怎么让人工智能安全和可信。

03/

监管| 安全 | 方针 | 人才

政府关于生成式人工智能的监管反响适当及时，各国也呈现了不同的特色。我国在敏捷推出生成式人工智能的监管办法并征求意见的一起，也在鼓舞开展通用人工智能，北京、上海、深圳是*大志的*队伍，均提出了较具大志的人工智能科研、立异与工业方针。欧盟持续在监管和立法方面*，一如其5年前首先推出GDPR。美国更介意人工智能技能的*位置，正在构成以危险办理为准则的监管结构。

长时间来看，人才对人工智能未来的影响，超过了算力。我国研讨人员发布的论文在数量上现已超过了美国，但金字塔顶端，无论是研讨仍是创业，美国依然占有显着的优势。在全球范围内，人工智能研讨立异的重心正从高校转移至企业，美国具有*学者最多的前三大组织，分别是谷歌、微软与Meta，算计吸引了美国*学者的30%。我国仍以高校为主，仅阿里巴巴跻身前10。

科技部现已提出了人工智能企业，应该承受科技道德检查；检查主体应该建立科技道德（检查）委员会。美国人工智能企业较早开端建立担任任与可信人工智能部分，从上一年到今年以来通过一些调整，反映出在生成式人工智能产生革新之际，企业正在寻求用更好的技能和计划，来安全和担任地布置新技能。

04/

十大前瞻

大言语模型

1. 2024年我国将呈现比肩GPT-4的多言语通用大模型；

2. 超长上下文（Long Context）将引领下一次LLM技能打破；

3. 在呈现更有远景的大言语模型之前，为完成笔直范畴更好的效果，以下三种办法将共存：

i）在不改变数据散布的情况下，使用更多通用数据进行通用大模型预练习，不特别引进职业数据，

ii）使用职业专属数据微调（Fine-Tuning）通用大模型，

iii）使用职业数据占比更高的数据集进行笔直模型预练习。

多模态模型

4. 当时CLIP Diffusion的文生图模型是过渡态，未来2年内将呈现一体化的模型结构；

5. 下一代Text-to-Image模型将具有更强的可控性，它将结合底层模型才能和前端操控办法，对模型的规划将重视与操控办法的结合；

6. 2025年之前，Video和3D等模态将迎来里程碑式的模型，大幅进步生成效果；

7. 以PALM-E为代表的具身智能（Embodied AI）展示出在机器人的感知、了解和决议计划等方向上的巨大潜力，但当时练习和可靠性存在较大应战；

8. 短期内Transformer正成为多个模态的干流网络结构，但紧缩整个数字国际的通用办法没有呈现，Transformer并不是人工智能技能的结尾。

商业时机

9. 3年内，推翻式的AI使用的中心驱动力来自于底层模型的立异，两者无法解耦，模型的效果将大于产品规划的效果；

10. 当时生成式AI商场处于技能主导的前期阶段，存在千亿美元市值的渠道性企业的时机。