近日，科技界领军人物马斯克在CES展会上接受专访，抛出了一个引人深思的观点：用于训练人工智能（AI）模型的现实世界数据已接近枯竭。他强调，截至去年（2024年），人类累积的知识几乎已被AI训练过程完全吸收。
这一论断与OpenAI前首席科学家Ilya Sutskever在去年12月的NeurIPS机器学习会议上的言论不谋而合。Sutskever同样指出，AI行业所能利用的数据量已达到极限。
面对这一挑战，马斯克提出了一个解决方案：合成数据将成为推动AI发展的新动力。他解释道，为了弥补现实世界数据的不足，AI必须依靠自身生成的数据进行训练。这种合成数据不仅能让AI自我评估，还能促进自我学习的进程。
实际上，多家科技巨头已经在这一方向上迈出了步伐。微软、meta、OpenAI和Anthropic等企业，在AI模型训练中广泛应用了合成数据。据科技市场研究机构Gartner预测，2024年AI及分析项目所使用的数据中，合成数据占比高达60%。
例如，微软在1月8日推出的开源AI模型“Phi-4”，就是结合了合成数据和现实世界数据进行训练的产物。谷歌的“Gemma”模型也采取了类似的策略。Anthropic通过部分使用合成数据，开发了表现出色的“Claude 3.5 Sonnet”系统。而meta则利用AI生成的数据，对其最新推出的Llama系列模型进行了微调。
随着现实世界数据的日益稀缺，合成数据正逐渐成为AI发展的重要支柱。科技巨头们在这一领域的积极探索，不仅展现了他们对未来技术趋势的敏锐洞察，也为AI的持续发展开辟了新的道路。
