但对于企业来说,消费端的模型有着难以控制的幻觉,以及频繁被爆出的隐私泄露问题,甚至连自家企业都给禁用了。
相比于这种「油门踩到底」的加速式发展,作为全球第一的云计算公司,亚马逊云科技在策略上则要稳健得多。
在2023 re:Invent全球大会上,亚马逊云科技首次推出了名为「Amazon Q」生成式AI助手——专为企业用户量身定做——在满足业务严苛需求的同时,保证信息的安全可控。
值得一提的是, Q这一个名字来源于「问题」(question),同时也是对007系列中的天才角色,以及「星际迷航」中的强大种族的致敬
如今,大模型的竞争已经来到下半场,在这个全新的时代,亚马逊云科技也开创了属于企业级生成式AI的全新范式,帮他们在各自的领域创造「颠覆格局」的AI产品。
作为本届re: Invent上备受期待的发布,全新的生成式AI助手Amazon Q可以说完全是为客户的业务需求量身定做的。
基于亚马逊云科技17年的知识积累,Amazon Q不仅会向用户更好的提供多个潜在的解决方案,还会解释清楚为何会提出这样的建议。
根据亚马逊云科技CEO Adam Selipsky的介绍,Amazon Q可以和我们聊天、生成内容,还能采取行动。怎么样去使用它,取决于我们对系统、数据存储库和运营的理解。
对企业来说,Amanzon Q对于信息管理和工作流的重构,都有着重大意义。
虽然企业掌握着分布在多个文档、系统和应用程序中的大量信息,但是从财务、人力资源,到营销和销售,每个组织的员工在日常工作中都会都耗费大量时间搜索内部信息源、拼凑分析结果、写报告、做PPT,还得针对不一样受众调整内容。
而目前市面上的通用解决方案,并未与内部资源相连,也不了解使用者的身份、角色和权限,无法确定员工在工作中应该访问哪些资源。公开的解决方案,可能会使用数据输入和输出进行训练,存在安全和隐私风险。
即使有一些生成式AI方案,但它们只能在特定工具内工作,不能扩展到企业的所有系统和应用中,限制了员工充分的利用AI的潜力。
使用Amazon Q,我们大家可以把它与公司的业务数据、信息、系统连接起来,它就可以综合所有信息,提供量身定做的解决方案。
它内置了40多个常用的数据源连接器,包括Amazon S3、Dropbox、Confluence、Google Drive、Microsoft 365、Salesforce、ServiceNow和Zendesk,还能为内部Intranets、wiki、run books等建立自定义连接器。
当Amazon Q综合了所有信息,我们就可以部署自己的智能助手了。它会生成一个Web应用,让员工使用身份验证系统来访问程序。
自定义配置完成后,Amazon Q会索引到所有它连接是数据和内容,学习企业知识,包括组织架构、核心概念和产品名称。
所有使用Amazon Q的客户,都可以再一次进行选择最对自己最合适的模型,连接到模型的Bedrock API上,然后使用模型来了解数据、策略和工作流程,最后完成Amazon Q的部署。
然后,员工就可以让Amazon Q来完成总结或生成文章、撰写邮件,和创建服务工单、创建会议议程、给团队发通知等等的工作了。甚至,还可以上传word、PDF、Excel,来提问文件中的问题。
此外,如果问题涉及到多个数据来源,Amazon Q会综合相关联的内容,在给出答案的同时,附上参考链接。
亚马逊云科技内部的一支团队完成了一项创举:短短两天内,就在Amazon Q的加持下,将上千款应用程序从Java 8升级到了Java 17。
具体来说,亚马逊云科技的CodeWhisperer,可以生成和解释代码。结合此功能,在受支持的IDE(如CodeCatalyst),Amazon Q能够准确的通过客户代码的知识生成测试,从而完成对软件的基准测试。
它还可以在软件中实现新功能,转换代码,升级代码包、存储库和框架,而这些,都可以用自然语言完成。
因为对亚马逊云科技,以及它提供的产品和服务有透彻的了解,Amazon Q能够理解应用程序工作负载之间的细微差别。
如果你问它,关于高性能视频编解码程序的最佳EC4实例,Amazon Q会给出一个列表,考虑从性能到成本的各个因素。
Selipsky表示,Amazon Q具有革命性的意义,从事很多类型工作的人,都将从中受益。
针对生成式AI系统普遍面临的幻觉问题,Amazon Q是怎样解决的呢?
为了减轻幻觉,管理员可以再一次进行选择让Amazon Q仅从公司文档中提取知识,而不是从基础模型中。
它提供的答案和间接,会严格忠实于客户提供的源材料和知识。而且,它只会返回用户有权查看的信息,管理员也可以限制敏感主题,让它过滤掉不适当的问题和答案。
比如,可以把Amazon Q设置为只回答安全团队提出的安全有关问题,或从企业内部目录中,提取与人员有关问题的答案。
而且,客户的数据也是绝对安全的。驱动Amazon Q的模板包括Bedrock平台中的模型,以及亚马逊云科技自己的Titan系列,这些模型都不会用客户的数据来进行训练。
因此,出于安全原因对生成式AI持谨慎态度的公司,可以完全放心使用Amazon Q。
Amazon Bedrock重磅升级:全新模型、自动解决「选择困难症」
今年4月,亚马逊云科技首次官宣Amazon Bedrock,一个可提供基础模型的服务平台。
这一平台最大的特色,就是让开发者能够轻松定制模型,并松构建属于自身个人的生成式AI应用程序。
从发布至今,Amazon Bedrock已经集成了大量的第三方模型,以及亚马逊自研的Titan模型。
在自研基础模型方面,亚马逊云科技全新推出文生图模型Amazon Titan Image Generator。与此同时,还发布了两个关注文本处理任务的模型Amazon Titan Text Lite和Amazon Titan Text Express。
此外,全新升级第三方模型Claude 2.1,Stability Diffusion XL 1.0、Llama 2-70B也加入了Amazon Bedrock。
当前,AI生图已确定进入白热化阶段,DALL·E 3、Stable Diffusion、Midjourney等AI工具在业界引起巨大的反响。
re:Invent大会上,全新的Amazon Titan Image Generator只需要一个指令,能够生成各种逼真的图像。
比如,你可以让它生成一张雪景中的木屋,甚至还可以动嘴更改主题、背景等。
再比如,当你想要一个背包的时候,你可以让Amazon Titan Image Generator为你搜索相关图片,并做出推荐。
最令人惊艳的是,当你选好其中一个书包,但又不知道在不同场景中的效果如何。
这时,你就可以让AI生图工具,为你「想象」,也就是我们常见的「图像扩展」能力。
Amazon Titan Image Generator是在广泛的领域的各种数据集上完成训练,可以再一次进行选择在自定义数据集上进行微调。
对此,研发人员还可以在此基础上构建自己的图像生成器,由Amazon Bedrock上的模型提供支持。
Amazon Titan Image Generator生成的所有图像都包含了隐形水印,不会干扰图像的视觉效果,没有延迟,并且不会被裁剪或压缩。
对于怎么检验测试不可见的水印,亚马逊云科技还创建了一个API,输入图像便可以看见图像来源。
亚马逊云科技进军AI图像生成领域,标志着该公司人工智能战略进入了一个新阶段。
Amazon Titan Image Generator未来可能被证明是AI驱动内容创作中,新应用的催化剂。
通过提供强大的工具和法律保障,亚马逊云科技有望在人工智能图像生成领域留下浓墨重彩的一笔。
除了Amazon Titan Image Generator,大会上,亚马逊云科技还更新了两个文本生成的模型。
一个是Amazon Titan Text Lite,用于文案写作等基本任务,结构紧凑很适合微调。
另一个是用于对话聊天的应用程序Amazon Titan Text Express,专为较大的任务而设计,并且同时兼顾了价格和性能。
然而,没有哪一个模型是可以完美适应所有应用场景的。不同的模型在能力、价格和性能上也各有千秋。
在选择对比的过程中,企业第一步是要花费数天时间来确定评价基准、配置测试工具,然后才能进行实际的评估。
这不仅需要深厚的专业相关知识,而且由于现有的测试并不适合一些主观标准的评估(如相关性和风格),企业也因此不得不引入人工审查来进行判断。
如此繁琐且耗时的流程,极大地限制了企业利用生成式AI的潜力,尤其是对于需求场景复杂多样的客户来说。
针对这一问题,亚马逊云科技在Amazon Bedrock平台上全新发布的Model Evaluation,可以帮助客户评估AI模型的能力。
在自动化评估中,研发人员可以进入Amazon Bedrock控制台,选择要评估的模型。如Llama 2、Claude 2和Stable Diffusion等等,都能够直接进行选择。
然后,他们能够评估模型在摘要总结、文本分类、问答和文本生成等任务的稳健性、准确性或安全性等指标上的性能。
评估过程中,亚马逊云科技会提供测试数据集,不过,客户能把自己的数据引入基准测试平台,以便选择更适合自身业务场景的模型。
对于人工评估来说,客户能选择与亚马逊云科技评估团队合作,或与自己的团队合作。
然后,客户提供指定的任务类型(比如摘要或文本生成)、评估指标以及要使用的数据集,并会得到定制的定价和时间表。
生成式AI大红大紫当下,每家企业,每个开发者都有机会,创造出时代爆款应用。
Andy Jessy曾经提过:任何人哪怕在自己的宿舍,或者车库里开始自己的创新之旅,也能获得与大规模的公司一样的基础设施和成本优势,来实现自身的创新。
值得一提的是,目前全球有80%的独角兽企业,都在使用亚马逊云科技的技术。
这次re:Invent大会上,这家科技巨头更是利用20多年在深度学习技术积淀,把自身产品做了重构。
在重构生成式AI过程中,亚马逊云科技提供了个完整全链路工具栈,包括底层的基础设施,中间微调模型需求的工具服务,以及最上层应用层。
第一层「基础设施」,亚马逊云科技这次推出了第四代自研服务器CPU芯片Graviton4,比起第三代处理速度快30%。
还有专为生成式AI训练设计的云端AI芯片Trainium2,比上一代芯片性能提高4倍。
除此之外,亚马逊云科技还与英伟达合作推出带有32个GH200超级芯片的超算——NVIDIA GH200 NVL32,用于加速训练1万亿参数的AI大模型。
在第二层模型层中,亚马逊云科技提供了模型调用平台Amazon Bedrock、Amazon Bedrock Agent,以及云机器学习平台Amazon SageMaker等等。
在最上层应用层中,除了Amazon CodeWhisper、Amazon QuickSight,这次全新增加了Amazon Q人工智能助手。
很明显,亚马逊云科技凭借其独特的三层技术栈,能够为客户提供全面的工具链条,去打造符合自身业务场景的应用。
一直以来,亚马逊云科技的使命是,帮助不同规模、不同体量的客户降低创新门槛。
在生成式AI时代下,也不例外。我们所有人都能深切地感受到,生成式AI的创新能力的重要性。
企业若想在这波AI浪潮中实现创新,构建面向百万、上亿用户的原生应用,都需要算力、数据端到端的能力、模型工具等服务。
亚马逊云科技所做的努力恰恰为企业和开发者开辟了新的契机,通过构建完成的技术体系,助力生成式AI全面落地。
在这个新的节点上,亚马逊云科技再次做到了通过创新降低AI门槛,进而赋能千行百业。