【VMware Explore】五人小团队,怎成一间科技公司的 AI 大脑?by VMware AI Labs 负责人 Chris Wolf
没有科技公司会错过这次生成式 AI 热潮,不过对 VMware 这种云端运算跟虚拟机的纯软体服务商,他们钻研 AI 已行之有年,旗下的 AI 研究室直接主导 VMware 的 AI 研发、策略合作夥伴与长期技术投资,也可说位於生成式 AI 浪潮海景第一排的单位。
这次我们采访到 VMware 主导 AI 研究室的副总 Chris Wolf,来谈谈他们是怎麽发展自家的 AI 战略。 本文为数场采访、对谈整理而来。
VMware 为什麽要成立 AI 研究室?
VMware AI 研究室到目前为止最重要的成果就是开发出 Private AI 这个计画。这个研究室在思考问题时会先回到几个基本问题:VMware 的核心业务是什麽?能为客户带来什麽价值?VMware 是一间很重要的多云基础设施服务者,所以也很自然的想把 AI 融入这些基础设施里,所以 AI 研究室负责制定公司整体的 AI 策略,然後在公司的不同业务线之间互相串联、合作。
一开始推动 Private AI 这个计画的团队只有 5 个人。从实质的工作来看,我们主要做三件事:第一件事是先端性开发,思考怎麽把两年内的新技术马上导入市场。第二件事是中期的孵化工作,以两到四年期来规划一些更新颖但还在发展中的技术怎麽实用化,其中一个例子就是 VMware 对机敏计算的研究,我们认为机敏资料库对於一些特定 AI 非常重要。然後第三个更长期的事就是与学术界保持合作,来研究这些还不算很成熟的 AI 如何更好用、更透明,以及如何更环保节能。
ChatGPT 写出来的程式码品质参差不齐,怎麽避免这种问题?
这就是会跟 Hugging Face 合作,在 VMware 上推出 SafeCoder 的原因。几个月前我们就开始在自己的资料中心部署了他们的 SafeCoder 模型,这个模型完全针对软体开发有 150 亿组参数,可以支援 80 多种语言。
另一个点是这个模型的调准基准不是基於整个非盈利的开源程式码,而是由我们公司最优秀的软体工程师亲自检视的,整个调整作业只花了大约四个小时,最後内测结果非常好,工程师对 AI 写出来的程式码接受率高达 93%,确实能帮助他们提高生产力。
协助客户使用 AI 的 VMware AI 研究室,自己是怎麽善用 AI 进行开发工作的?
我举一些例子,例如我们自己使用 AI 来搜寻有关 VMware 产品的资讯,这个例子很常见,我们用内部的资料库、产品档案为自己训练出一个大型语言模型,让我们可以非常快速获得怎麽在 VMware 平台新增功能、或排除故障的答案。
Photo Credit:INSIDE/Chris摄影
除了重新整理资料库、修正模型之外,这次 VMware 发布的 AI 还有什麽新功能吗?
应该这麽说,首先这些 AI 功能确实可以节省了大量时间、金钱,提升客户的工作效率。另一个很实用的领域是我们今天发布的 NSX Intelligent Assist。本质上这就是一种 AI 技术,可以仔细检查您的资安事件,可以自动找出一些传统上需要分析师手动分析的事件,根据实测,可以把资安事件数量减少约 90%。
生成式 AI 现在可以即时观察资安威胁,并且建构新的资安策略。毕竟现在也的确有很多资安威胁背後用了 AI 技术。另外在制造业、能源跟医疗业上 AI 也有很多进展,特别在医疗上,最近在放射影像层面特别受人瞩目,最近有研究指出,有用 AI 补助的放射科医生,在检测乳腺癌的准确性要高出 20% 到 30% 左右。
那怎麽确保 AI 本身的可靠性?
这就要谈模型的品质和测试评估,其中如何建立正确的评估参数就很重要,这部分我们正在向学术界寻找研究成果来确保评估和流程是否正确。
另外开源领域也非常重要。最近 Lama 2 的成果有目共睹,但另一个来自波士顿大学的模型 Platilus 2 也取得了很好的成绩。这是因为这个模型不仅开源,用於训练模型的数据也是开源的,这会提高透明度、可解释性,让大家更信任这个 AI。Hugging Face 今天也刚刚发布了一个新模型,一样资料库也是开源的,不过我也得强调,并不是说在闭源领域就没这种提高可解释性的趋势。
核稿编辑:Jocelyn
快加入 INSIDE Google News 按下追踪,给你最新、最 IN 的科技新闻!