人机共生新框架：《AI与可持续发展展望》报告发布

看清时代的现实，直面未来的挑战

联合国《2030年可持续发展议程》强调“人类、地球、繁荣、和平与伙伴”，为全球提供了从传统发展模式向可持续发展模式转变的范式。2024年9月联合国未来峰会将进一步讨论人工智能、数字经济与可持续发展的关系。针对这样的背景，AI与全球可持续发展展望报告，将分析AI及大模型技术革新对对全球可持续发展的挑战与机遇。

在21世纪，气候变化、AI技术进步与地缘政治的交融，正在深刻地重塑世界新格局，这将给我们带来什么挑战与机遇？如何构建一个跨学科，跨界的综合框架来支持分析与战略规划？

AI与可持续发展研究与分析框架

AI与可持续发展展望旨在分析和探索“AI与可持续发展框架”关键层面，为新世纪格局的科技、社会、经济与政治叙事提供框架。从科技企业AI技术与产业领导的未来人机交互界面（海平面），从而提供产品抓手来影响世界的关键层面，衍生到“海平面”之下主导AI及机器世界的基础设施与基础协议层面，以及海平面之上影响人思考与行为模式的各个层面，共计8个层面，下面由底层到顶层简要分析：

图1 AI与可持续发展：人机共生的研究与分析框架

AI与气候变化及全球碳中和层面

“碳中和”能否通过社会、经济和政治结构成为一项关键原则？

这个层面强调了东西方之间新的核心共识，强调了碳中和的愿景，并强调了技术和价值观之间的关键交汇点。这个概念强调将环境和气候风险整合到新数字科技经济体系中，以促进可持续发展，减少气候变化的影响，并确保环境、经济和社会的协调发展。AI及大模型支持碳交易、碳捕获和碳储存等新模式是实现这一目标的关键工具。

AI与信息和通信技术基础设施层面

信息通信技术如何涵盖技术设计和价值系统设计之间的跨学科研究，特别是在地缘政治中的新战略定位？

信息通信技术构成了现代地理景观的基石。这个层面将技术堆栈分为技术基础设施、网络层、应用层和数据流。这些元素在信息传播、创新与社会变革中发挥着关键作用，但也在道德和隐私方面提出了挑战。

AI与世界数字ID系统和协议层面

人机共生世界的基本问题是，我们如何在人类和人工智能之间进行区分，并建立一个全球数字身份系统？

在这个层面上，重点是“世界ID和基础协议”的概念，通过标识、识别和数据管理，以及可编程的金融技术，特别是与碳中和逻辑集成的可编程金融系统，将强调人工智能时代的新工作模式与分配制度。该框架强调了隐私保护的必要性，并可能通过人工智能产业收益实验全民基本收入（UBI）的可能性？

AI与数据管理和资源分配层面

技术协议设计如何深刻影响数据的定义与资源分配？

定义和使用数据本身结构将在资源分配中做出决定作用？数据的定义、使用和共享或将决定数据产生的价值如何分配给不同的利益相关者，包括个人、企业和社会组织等。因此，数据管理不仅需要考虑个人隐私权，还需要考虑资源和公共管理，以确保公平性和可持续性。数据创造的商业和社会价值决定了其作为未来资源分配的关键因素的重要性。无论是在物质层面，如土地和自然资源，还是在虚拟层面，包括数据，它们都被认为是最重要的生产资料，需要高度重视数据和资源的重要性。

AI与人机交互界面层，及“海平面”

作为一个强大的工具，人工智能如何在实现东西方之间新的全球共识方面发挥关键作用？

这个层面侧重于与“人工智能与人的需求”的技术设计与产品的相关的问题，是当下绝大多数数字科技企业的发展方向。因此，需要一种平衡的方法来充分利用人工智能的潜力来促进社会的整体利益，同时解决透明度、公平性、教育和监管等问题。这个场面需要深入探索关键领域，如技术设计、人工智能技术的应用、决策、道德、教育和监管。

AI与国家治理层面

AI及数字技术的兴起对传统边界和国家治理可能带来了哪些挑战?

在过去与现在，由于非政府组织、跨国公司等非国家实体能够推动超越国家范围的变革和治理。在这一背景下，全球治理由上述非国家实体共同参与，作为国家机构的补充。

同时AI及数字技术和网络，让个人和一些组织能够参与到构建、参与并支持其建立的虚拟机构或“云国家”中。这些虚拟机构不依赖于地理位置，而是基于在线通信和数字协议。个人和机构根据自己的价值观选择加入这些虚拟国家，并通过区块链等技术实现自治和治理。这种观点挑战了传统国家主权的概念，将治理下放至个人和社区层面。

这些现象反映了AI与数字技术如何重塑了内部结构和治理的复杂性。一方面，数字技术促进了全球范围内的合作与治理，打破了传统国家边界；另一方面，它也提供了个人和社区自我组织和治理的新途径，挑战了国家的传统角色。

AI与民族认同

我们应该如何看待民族在地缘政治中的作用，民族在地缘政治景观中发展新文明中的重要性？

纵观历史，民族身份和文明之间的竞争与合作的相互作用塑造了不同国家和地区的发展轨迹。中国历史上“华夷之辨”和西方罗马帝国文明的向心力等例子提供了这方面的历史经验。而当下社会发展的多样性和复杂性，需要我们更深入地思考AI对未来从文明体系到人类族群的演进的影响。

AI与价值观和道德伦理层面

人工智能时代将形成何种价值观和全球道德伦理体系？

随着社会在应对气候变化和人工智能技术创新的同时，政治和经济系统正在经历根本性的转变。这包括政府决策对商业行为的影响、国际关系的演变以及全球新规范的建立。社会要求政府和企业采取更加负责任和可持续的行为，适应法律和法规的改革。

此外，国际社会正在努力构建一个全球性的未来议程框架，以解决气候变化、数字权利等跨领域问题。这种转变涉及到重新定义人类与AI及科技技术之间的道德关系，对治理结构和全球规范产生深远影响。它不仅要求我们重新思考技术发展与社会伦理之间的平衡，还涉及到如何在全球范围内协调行动，确保技术进步能够促进共同福祉，而非加剧不平等或环境破坏。这一过程需要跨学科的合作，包括法律、伦理学、政策制定、科技以及社会学跨界共同参与，以确保全球道德伦理体系的构建既符合人类共同利益，又能适应快速变化的技术环境。

总之，在“AI与可持续发展展望”框架试图结构性的理解和分析气候变化，大模型技术革新与地缘战略中的复杂问题。

在分析了“AI与可持续发展展望”的中长期框架后，未来几年的短期内AI及大模型技术突破是否可以支持AI与技术产业发展，社会与经济变革呢？

AI及大模型技术革新

这部分可以通过分析的四个主要因素即投资、计算能力的提高、算法效率的提升和如强化学习等技术带来的收益，由于对大模型研发的一个重要区域是美国，对美国的AI与大模型发展规模和效应做出合理判断，也是对国内有借鉴意义：

1.投资

2024年2月10号，OpenAI首席执行官Sam Altman 提出计划筹资7万亿美元兴建包括GPU堆栈在内的AI方面的投资。事实上，大型科技公司一直AI研发上大幅增加资本支出。微软和谷歌的资本支出可能会超过500亿美元，AWS和Meta今年的资本支出超过400亿美元。由于人工智能的蓬勃发展，以OpenAI为代表的美国AI研发与应用的公司带动的相关资本支出总额将同比增长500至1000亿美元。同时，通过削减其他资本支出，这些企业将更多资金转移到人工智能上。此外，其他科技企业也在大力投入人工智能，例如特斯拉今年在人工智能上将花费100亿美元。更重要的是美国政府也将大力投资人工智能。

美国今年在人工智能总投资预计可能达到1千亿美元。未来几年年，美国平均每年的人工智能总投资预计可能达到 1 万亿美元[1]，这个数字听起来令人难以置信。但是又有以往的类似案例可以参考：

•从 1996 年到 2001 年，美国在电信行业[2]在建设互联网基础设施上投资了近 1 万亿美元（按当时的美元购买力折算到今天）。可见，在重大技术革新时期，特别是基础设施方面的巨大投资，美国存在先例与可行性。但是，如果美国的人工智能投资达到每年 1 万亿美元，将占 美国2024年28.63万亿美元GDP 的约 3.5%，这也是巨大的。但是美国千亿级的投资已经开始，如Open AI、AWS、XAI、Google与Meta等公司在规划的GPA集群投资计划加在一起今年总和接近千亿美元。

2.AI的计算能力的提高

计算能力和投资额度的关系由两个趋势决定：1）单位计算投资成本的下降和2）总计算投资。如果未来1年内单位计算投资成本下降90%，而计算投资增长了10倍，计算能力会增长100倍。在阐述计算能力增长时需要讨论这两个点。使用 Epoch AI的公开估计来追踪从 2019 年到 2023 年的计算扩展，从 GPT-2 到 GPT-3 的扩展非常迅速，计算资源的使用也急剧增加，从较小的实验规模扩展到使用整个数据中心来训练大型语言模型。随着从 GPT-3 到 GPT-4 的扩展，需要为下一个模型构建全新的、更大规模的集群。然而，这种快速增长的趋势仍在继续。总体而言，Epoch AI 估计表明，GPT-4 的训练使用的计算量比 GPT-2 多约 3000 到 10000 倍。

OOM（数量级，order of magnitude）：a 个 OOM 指的是 10^a，图2 Epoch AI 估计表

总体来看，这只是长期趋势的延续。由于投资的广泛增加以及专门用于 AI 工作负载的 GPU 和 TPU 等芯片的开发，未来几年里，通过价值数百亿美元的GPU堆栈集群，将实现现在计算量的100倍，似乎非常有可能实现。通过建设超过 1000 亿美元的GPU集群， 实现现在计算量的1000 倍的也显得可行。

3.算法效率提高与硬件技术改进

从在过去四年的公开数据分析，可以推断：

•从 API 成本分析看，在明确区分训练成本或效率，和使用成本或效率（包括输入和输出），一般来说训练成本比使用成本大得多。从计算成本变化=算法效率变化*单位计算成本变化，可以推断出从 GPT-3 到 GPT-4 的单位计算成本下降或者效率提升是可能来自于硬件设计的改进。

•多种大模型正在通过算法改进，计算成本下降与硬件设计已数十倍降低计算成本，而且这个趋势还在继续强化。

•甚至可能看到更多基础性、类似 Transformer 的突破，获得更大的收益。

因此，未来3年到4年，相对于 GPT-4，预期算法效率将提高 到当前算法效率的10到1000倍。

4.其他技术与方法（Unhobbling）

通过人类反馈进行强化学习 (RLHF)使模型变得真正有用和有商业价值。比如，RLHF让小型模型在用户偏好上等同于一个非RLHF的百倍大模型。

思维链(Chain of Thought , CoT)：在解决数学和推理问题时，CoT相当于超过10倍的计算效率提升。

Scaffolding：类似CoT的增强版，不同模型分工合作解决问题。

Tools：目前，ChatGPT可以使用浏览器、运行代码等，类似人类使用计算器或电脑。

上下文长度(Context length)：模型的上下文长度从GPT-3的2k到GPT-4的32k，再到Gemini 1.5 Pro的100万以上。更长的上下文可以有效提升计算效率。

Posttraining improvements：当前的GPT-4通过后训练改进显著提升了能力，可以在推理评估中的表现大幅提高。

Epoch AI 对一些技术（如 Scaffolding 和工具使用）进行了调查[3]，发现这些技术通常可以在许多基准测试中带来 5-30 倍的有效计算增益。METR（一个评估模型的组织）同样发现，通过优化相同的 GPT-4 基础模型，他们的代理任务性能得到了显著提升：从仅使用基础模型时提升了5%，到使用发布时的后训练 GPT-4 时提升了20%，再到今天通过更好的后训练、工具和代理脚手架，提升达到的近 40%。

5.美国能源是否支持AI及大模型和带来的工业发展

在美国，随着人工智能快速发展，巨量资金将投入 GPU、数据中心和电力建设。如果AI及大模型实现工业全面发展，到2035，美国用电量增长将介于15%-30%。一是人工智能本身是庞大的工业体系：每个新模型都需要一个庞大的新堆栈，配套新发电厂，还需要新芯片工厂。二是，AI及大模型全面渗透工业领域，机器人等技术的快速发展和广泛应用，甚至出现工业机器替换人工的大规模应用，用电需求将呈现较大幅度的增长。当前，媒体报道称，微软和 OpenAI 正在建造一个1000 亿美元的集群，定于 2028 年推出。亚马逊在核电站旁边建设一个电力装机容量1GW 数据中心园区。Meta购买了 350,000 个 H100芯片，需要电力支撑。随着每一代模型规模的增加震惊世界，进一步的加速可能还在后面。如何获得电力、土地、许可和数据中心建设成为AI及大模型公司下一步布局重点。由于美国自2014年页岩气革命发起的油气领域新突破与持续发展，如果通过相关政策，AI及大模型用电量都可以其本国自给。同时，美国新能源发展也成为重要的电力支持。

可见，从主要因素包括投资、计算能力、算法效率和如强化学习等技术革新，来判断：（1）大型科技公司和国家正在大力投资AI，美国今年AI投资可能将超过1千亿美元，未来美国每年AI投资可能将超过1万亿美元，这将显著加速AI的发展。（2）从2019年到2024年计算资源使用急剧增加的趋势判断，得益于广泛的投资和专门用于AI工作负载的芯片开发，未来几年AI训练计算量预计将增加100-1000倍个数量级。（3）在过去四年里从GPT-2到GPT-4，算法效率提升了10到100倍；得益于AI实验室在算法改进方面的持续投入未来几年，算法效率将进一步提高10到1000倍。（4）通过人类反馈进行强化学习（RLHF）、思维链（CoT）、脚手（Scaffolding）、工具使用（Tools）和上下文长度（Context length）等技术，使得AI模型更具实用性和商业价值，从而显著提升了计算效率和模型性能。（4）美国能源可以支持AI及大模型和带来的工业发展。

在分析与判断了未来几年的短期内AI及大模型技术突破，当前的可持续发展关键点尝试在各界关注的四个方面展开了《AI与可持续发展展望报告》，及能源是否可以支持AI及大模型技术突破与发展，AI及大模型技术对气候变化与碳中和的机遇与挑战，AI及大模型技术能否支持包括具身智能技术突破的工业全面变革，和AI及大模型技术对航天探索的影响。

AI与可持续发展展望

AI及大模型技术对能源领域、气候变化领域、工业领域和航天领域的挑战与机遇：

人工智能（AI）正以惊人的速度革新多个领域，其应用不仅重塑传统行业，还为全球性挑战提供解决方案。

1.在能源领域，AI优化生产、管理和消费，提升效率与可靠性，减少浪费，提高可再生能源利用率。

2.在应对气候变化方面，AI通过精准预测与分析，助力科学应对策略的制定，监测温室气体排放，评估政策效果，优化减排措施，并提供自然灾害预警。

3.工业领域，AI推动工业4.0进程，实现生产智能化、自动化，提高效率，降低成本，优化供应链，精准生产计划，减少资源浪费。

4.航天领域，AI技术在任务规划、飞行器控制、故障诊断与维护中提升精确性与安全性，加速科学发现和技术进步。

AI的应用展现了其在解决全球性挑战、推动科技进步与提高生活质量方面的巨大潜力。

小结

在AI时代，如何定义可持续发展的内涵与外延？

“AI与可持续发展”，试图为分析人工智能（AI）及其大模型技术在推动全球可持续发展中的挑战与机遇提出分析与决策框架。通过八个层面构建了一个较全面的人机共生的分析框架，包括AI与气候变化、信息通信技术基础设施、全球数字身份系统、数据管理、人机交互界面、国家治理、民族认同以及价值观和道德伦理。特别是AI在实现碳中和、优化资源分配、支持人机互动技术设计和产品发展、以及在全球治理中的重要性的分析，对AI与可持续发展议题做出中长期关键层面分析。

对于短期及未来几年的AI与大模型技术是否可以突破的分析与判断中，强调了AI技术发展需要巨额投资，今年美国对AI的投资可能达1千亿美元。计算能力的显著提升和算法效率的大幅进步也将推动AI技术的快速发展。

《AI与可持续发展展望》报告，作为“AI与可持续发展”的系列报告的第一份报告，探讨了AI在能源、气候变化、工业和航天等热点领域的应用，展示了AI在提升效率，支持科学决策和推动技术进步方面的巨大潜力。

“AI与可持续发展”的议题的持续深入，需要跨学科合作，来适应快速变化的技术发展与环境变化。

参考文献来源：

[1]《SITUATIONAL AWARENESS》的报告：https://situational-awareness.ai/https://sgp.fas.org/crs/misc/RL34645.pdf

[2]https://www.latimes.com/archives/la-xpm-2002-jun-30-fi-billions30-story.html

[3]https://epochai.org/blog/ai-capabilities-can-be-significantly-improved-without-expensive-retraining

文章来自于微信公众号“腾讯研究院”，作者“李孜”