近日，英国著名词典出版商柯林斯宣布了自己评选的2023年的年度词：AI（人工智能）。词典出版方在声明中表示，AI被视为下一次技术革命的代表，发展迅速，已成为2023年的热门话题,这意味着人工智能影响力得到进一步提升。作为人工人工智能领域参与者，北京遍知教育科技有限公司认为，未来人工智能将在多个领域实现技术赋能。
在词典网站给出的动画中，则展现了对于AI的幽默调侃：将dragonfly（蜻蜓）、armchair（扶手椅）和grandchild（孙子/孙女）三个单词放入机器，最终却得到了喷火的苍蝇、手臂形状的椅子和头戴王冠的小孩三张不明所以的图片。
同时，在10月16日，全球IT研究与顾问咨询公司Gartner发布了“2024年十大战略技术趋势报告”。在报告中，Gartner将这十大趋势的主题词聚焦于人工智能，更准确地说，是生成式AI。然而，任何新兴技术的爆发都会带来一定的风险。因此，在2024年十大趋势报告中，Gartner将这些趋势分为三大类别：价值、风险和资产保护。
2024年十大战略技术趋势，图源：Gartner
Gartner对于未来生成式AI的预测是，到2026年，超过80%的企业都会接入生成式AI或大模型，然而这一比例在2023年初还不到5%。
01 全民化生成式AI
在2023年，一些具有代表性的会议，如世界人工智能大会、中国国际服务贸易交易会以及刚刚结束的阿里云云栖大会，都强调了一个核心主题——生成式AI。
“未来生成式人工智能平台的入门门槛会变得非常低，几乎可以为所有人提供‘生成、创造、编写数字内容’的能力。”这是Gartner研究副总裁高挺对于“全民化生成式AI”趋势的解读。
当全民化就意味着低成本，生成式AI意味着生产力的提升时，“云”和“开源”也就注定成为了绕不开的两大话题。
其中，云计算为生成式AI提供了底层技术。在短期内，云计算与AI产业或大模型形成了一种联动关系，因为所有大模型都会在云上生长并以“云”的方式提供服务。云计算行业到2024年，也才有近十年的历史。在这期间，市场对云计算的理解从陌生逐渐变为熟悉，但至今仍未迎来高速发展期。
目前国内云计算市场面临的问题是，SaaS行业还不够成熟，并且缺乏行业领军企业。而在云计算行业的高速发展期，SaaS行业的成熟对其至关重要。市场接受度低、付费习惯差、产品能力不足等问题正在阻碍SaaS行业的发展步伐。
然而，2023年生成式AI的热潮兴起，为SaaS行业带来了转机。生成式AI的应用遍布各行各业，不仅催生了新一批SaaS应用，还助力曾经的SaaS应用重新进入大众视野。在提高软件生产力的同时，市场接受度也在逐渐改变。
根据中国信通院的数据预测，到2025年，全球云计算市场规模将超过6000亿美元，5年复合增长率将达到23.56%；其中我国云计算市场规模在2025年将突破1万亿元。
在“全民化”的背后，不仅需要云计算行业的支持，随着大模型的广泛应用，“开源”也逐渐成为当下的热议话题。开源的本质在于降低大模型的开发成本，打开生成式AI技术创新的源头。一些优秀企业将底层的代码能力贡献出来，以免费开源的方式供其他企业进行二次开发，从而极大地降低了模型成本，提高了生成式AI的普及性。
在国际测试委员会Bench Council所公布的世界开源系统贡献榜中，除了学术界的参与外，微软、谷歌、IBM、甲骨文、英伟达、阿里巴巴、百度等公司也被列入其中。这些头部企业的参与，也恰恰说明了开源的可靠性。以国内大模型企业为例，阿里云已成为国内首个加入大模型开源行列的大厂。通过这种方式，阿里云不仅降低了大模型的开发成本，还为其他企业提供了二次开发的机会，进一步推动了生成式AI技术的发展。
02 AI增强开发
“生成式AI所带来的生产力提升将波及到数十亿的人工劳动力，而这项技术所创造的价值是，提升至少10%的效率和创造力。”红山的两位合伙人在《生成式AI，一个新世界》一文中表达了上述观点。
生成式AI带来了巨大的机遇，但同时也伴随着挑战。它具有数万亿美元的经济潜力，但同时也为数万人带来了失业焦虑。
当ChatGPT刚进入国内时，人们误以为客服行业将最先感受到危机。然而，实际上，真正能够与生成式AI结合并带来生产力提升的是“代码”。
Gartner研究副总裁高挺对“AI增强开发”的解读是，被AI开发替代的测试任务主要集中在三个方面：编写测试代码、生成测试数据、生成单元测试中的“测试桩”。
虽然目前AI还不能参与整个全生命周期的开发过程，但未来却很有希望。从原理上看，生成式AI可以根据用户输入的数据自动生成代码，从而简化并加速开发流程。而且从用户的角度来看，生成式AI与代码的结合也更方便人机交互。
一方面，用户不再需要编写大量代码来处理问题。另一方面，生成式AI也可以帮助企业在短时间内开发出更优秀的应用程序，从而在数字化转型中实现降本增效。将生成式AI与代码的结合放在更大的层面来看，这对于低代码和无代码行业都将带来变革性影响。
国内外已经出现了类似的应用。例如，微软的GitHub Copilot编程助手和百度近日发布的Comate代码助手。Comate是基于代码层面推出的SaaS应用，这也是国内首个与代码结合的SaaS应用的尝试。
通过简单的聊天界面创建应用程序的无代码操作步骤已经在微软的低代码产品PowerApps上实现。这是在PowerApps添加了Copilot之后基于ChatGPT功能的无代码生成应用。
03 AI安全管理（AI TRiSM）
新技术的出现总是伴随着未知的风险，生成式AI也不例外。Gartner提出的“AI TRiSM”机制，即信任（Trust）、风险（Risk）和安全（Security）管理，为AI的治理提供了指导框架。
在AI的信任问题方面，可以追溯到智能语音助手Siri刚进入日常生活的时候。人们担心Siri是否会“监听”他们的生活并用于商业等用途。如今，在大模型时代，这种信任危机更加严重。比如，人们担心训练数据可能被“投毒”，或者生成式AI可能受到“提示词攻击”等。
AI风险则更多地被关注在关键领域，如医疗、金融和法律等。在医疗行业，8月中旬北京市卫健委发布了《北京市互联网诊疗监管实施办法（试行）》，其中规定了严禁使用AI自动生成处方。在金融行业，银行、证券等机构的数据安全也是生成式AI发展过程中必须解决的一大问题。
Gartner的“AI TRiSM”框架更多是基于人工智能模型的公平性、透明度和数据保护等方面，提供的一套治理机制。实现AI治理的方式可以是国家政策、针对大模型时代的新安全应用，或者企业基于自身安全考虑的私有部署方式。
在政策方面，欧盟、美国、英国和中国等多个国家已推出生成式AI监管规定。随着生成式AI的快速发展，国际上对生成式AI风险的重视也提到了一定高度。
8月，欧盟《人工智能法案》成为AI监管领域的全球标准，其中参与商谈的国家包括欧盟成员国、印度、日本、韩国、新加坡和菲律宾；同时在2023年8月15日，国家网信办等七部门联合公布的《生成式人工智能服务管理暂行办法》也正式生效；10月末，美国也推出了首个生成式AI监管规定。
除了国家层面的政策保护，企业自身也会基于数据安全和隐私等层面，将一些涉及隐私的应用进行私有云部署，把数据放在本地上保存，从而来保证数据在生成式AI应用上的安全性。在新的时代下，基于企业生命周期管理的安全类应用也会变得更加重要。
关于爱奇艺遍知
北京遍知教育科技有限公司隶属于爱奇艺，整合爱奇艺知识，爱奇艺教育，电视果及萌状元四大业务。秉承简单、快乐、专业、责任、利他的企业文化，爱奇艺遍知致力于打造科技驱动、值得信赖的综合性一站式在线终身学习服务平台，通过软硬件一体化研发能力，提供沉浸式在线学习环境，提升线上学习服务体验。
原创文章，作者：奋斗，如若转载，请注明出处：https://blog.ytso.com/306769.html