在《Google Cloud Next '23》大會上,Google發表Google在基礎架構、資料和AI、Workspace協作和資安解決方案等全系列產品不斷創新的成果。Google對自己的努力與成果感到自豪,因為Google不斷推陳出新,協助企業、政府部門和使用者,讓他們能得益於生成式AI和領先的雲端科技。
AI最佳化基礎架構:
最先進的AI最佳化基礎架構,供企業訓練和部署模型。Google的雲端區域提供此基礎架構,讓你能使用Google分散式雲端在你的資料中心和邊緣運行。
Vertex AI:
用於建構模型和AI應用程式的開發人員工具,透過Vertex AI在建構自訂模型以及使用企業資料建構自訂搜尋和對話應用程式方面獲得重大進展。
Duet AI:
Duet AI是一款全天候運作的AI協作工具,深度整合在Google Workspace和Google Cloud中。在Workspace中的Duet AI,能讓每位使用者享有寫作幫手、試算表專家、專案經理、會議記錄員和創意視覺設計師的協助,這項功能現已全面上線。在Google Cloud中活用Duet AI,就像和專業編碼人員、網站穩定性工程師(SRE)、資料庫專家、專業資料分析師和資安專家進行協作。Google也在預覽版中擴大支援Duet AI,並將於今年稍晚全面推出。
Google也會陸續發表有關開發人員工具、資料、安全性、永續發展,以及Google快速成長的雲端生態系統等相關更重要的最新資訊。
協助客戶的全新基礎架構和工具
革命性的生成式AI帶來許多先進的功能並可廣泛的使用於各種應用成式,因此需要最先進、最強大的基礎架構。Google 25年來不斷投資資料中心和網路,現在Google擁有涵蓋38個雲端區域的全球網路,目標在2030年完全達到全天候採用無碳能源維持營運。
Google的AI最佳化基礎架構是訓練和實現生成式AI模型的優先選擇。事實上,有超過70% 的生成式AI獨角獸公司和超過一半獲得融資的生成式AI新創公司都是Google Cloud客戶。今天,Google宣布協助客戶的基礎架構關鍵革新。
Cloud TPU v5e:
Google推出業界最新、最具成本效益、多功能且可擴充的專屬AI加速器。現在,客戶可以使用單個Cloud TPU平台來運作大規模AI訓練和推理。Cloud TPU v5e可擴充到數萬個晶片且經過效能最佳化。與Cloud TPU v4相比,每1美元的訓練效能可提升2倍,每1美元的推論效能可提升2.5倍。
搭載NVIDIA H100 GPU的A3虛擬機器:
Google搭載NVIDIA H100 GPU的A3虛擬機器將於下個月全面上市。這是專為實現高效能網路和其他先進技術而建構,以因應當今對生成式AI和大型語言模型(LLM)的高度需求。這使得機構能夠實現比上一代A2高出三倍的訓練效能。
GKE Enterprise:
為要求最高、完成關鍵任務的AI/ML工作負載,提供所需的多叢集水平擴充;客戶已看到生產力提高45%,同時軟體部署時間減少70% 以上。今天開始,Cloud TPU v5e現已能享有和GKE同樣的優勢,包括自動擴充、工作負載自動化調度管理和自動升級。
跨雲端網路(Cross-Cloud Network):
這個全球網路平台可協助客戶跨雲端連結和保護應用程式,更具備開放性、最佳化工作負載,並採用機器學習驅動的安全性措施,能真正落實零信任機制。跨雲端網路目的是讓客戶能更輕鬆地從任何雲端存取Google服務,將網路延遲率降低將近35%。
Google分散式雲端(Google Distributed Cloud):
專為滿足機構要在邊緣或資料中心執行工作負載的獨特需求。除了新一代硬體和新安全功能之外,Google還加強了GDC產品組合,透過Vertex AI整合功能和GDC Hosted上的AlloyDB Omni新代管產品將AI擴展至邊緣。
Google的Vertex AI平台變得更好
在Google世界一流的基礎架構之上,Google提供了Google相信是最全面的AI平台— Vertex AI,讓客戶能夠建構、部署和擴充機器學習(ML)模型。Google看到了驚人的使用量,從今年4月到7月,生成式AI客戶專案數量成長了150多倍。客戶可以在Google的模型園地中存取100多個基礎模型,包括第三方和熱門的開放原始碼版本。這些模型都依據不同任務和不同大小進行了最佳化,包括文本、聊天、圖像、語音、軟體程式碼等等。Google還針對網路資訊安全提供像是Sec-PaLM 2的產業特定模型,為Broadcom和Tenable等全球安全服務供應商提供支援;Google也協助領先的醫療保健和生命科學公司,包括拜耳製藥(Bayer Pharmaceuticals)、HCA Healthcare和Meditech,提供Med-PaLM 2模型。
Vertex AI中的搜尋和對話現已全面上線,這讓機構只需編寫少量的程式碼和簡單的企業管理和內建安全措施,就能夠在短短幾分鐘內使用其資料建立搜尋和聊天應用程式。此外,Vertex AI Generative AI Studio為使用者提供具有企業級資料安全控管且容易使用的工具,方便使用者調整和自訂模型。這包括Text Embeddings API等開發人員工具,讓開發人員可以依據文本或圖像的語義理解,建構複雜的應用程式,以及運用人類回饋強化學習(RLHF)技術,結合使用者的反饋來深度自訂和提升模型效能。
Google很高興地宣布Vertex AI平台中的幾個新模型和工具:
PaLM 2、Imagen和Codey升級版:Google將PaLM 2更新為32k背景脈絡窗口,以便企業可以輕鬆處理較長格式的文檔,例如研究論文和書籍。Google還改進了Imagen的視覺效果,並擴大了Codey對新語言的支援範圍。
調整工具:
Google也針對PaLM 2和Codey全面提供轉接器微調功能,讓使用者即使只有100個範例,也可以提高LLM效能。Google還推出了一種新的Imagen微調方法,稱為「風格化(Style Tuning)」,這讓企業僅需要少量參考圖像,就可以創作出符合品牌指南或其他創意需求的圖像。
新模型:
Google宣布推出Meta的Llama 2與Code Llama,以及備受歡迎的Technology Innovative Institute Falcon LLM開源模型,另外也預先發布Anthropic Claude 2。就LLama 2而言,Google將是唯一同時提供轉接器微調和RLHF的雲端服務供應商。
Vertex AI擴充功能:
開發人員可以存取、建構和管理擴充功能,以提供即時資訊、整合公司資料並代表使用者採取行動。這為生成式AI應用程式開闢了無限的新可能性,這些應用程式可以作為企業的擴充功能,從第三方平台(如CRM系統或電子郵件)存取專有資訊並採取行動的能力。
Grounding:
Google宣布推出適用於Vertex AI基礎模型、搜尋及對話(Search and Conversation)的企業Grounding服務,協助客戶能將回覆納入企業自身的資料中,以提供更準確的回覆內容。Google正在與一些早期客戶合作,使用支援Google搜尋的技術來測試Grounding功能。
在Vertex AI上產生數位浮水印:
由Google DeepMind SynthID支援,提供一種非常先進的技術,能將肉眼不可見的浮水印直接嵌入於圖像像素中,且無法被輕易竄改。數位浮水印為客戶提供了一種可擴充的方法,以負責任地方式創建和識別AI生成的圖像。Google是第一個為AI生成的圖像提供此技術的超大規模雲端供應商。
Colab Enterprise:
這項代管服務將結合Google Colab筆記本的易用性與企業級安全性和合規性功能。資料科學家可以使用Colab Enterprise來協作加速AI工作流程,存取Vertex AI平台的全部功能、與BigQuery整合,甚至完成和生成程式碼。
控管資料和發掘及訓練正確的模型一樣重要。Google在設計Vertex AI之初,目的就是讓你能夠完全控管和區隔你的資料、程式碼和IP,並且確保零資料洩漏。當你使用Vertex AI自訂和訓練模型時,例如:使用來自SaaS應用程式、資料庫或其他特定來源的私人文件檔和資料,並不會將該資料暴露給基礎模型。Google會對模型進行快照,讓你可以訓練並在私有配置中封存它,藉此讓你完全控管你的資料。Google不會使用你的提示、資料及推理時輸入的使用者資訊來改善Google的模型,其他客戶也無法存取。
在Workspace和Google Cloud中擴大支援Duet AIGoogle在5月的I/O大會上推出了Duet AI,並在Workspace中導入強大的新功能,並展示了Google Cloud中的程式碼輔助(code assistance)和聊天輔助(chat assistance)等開發人員功能。從那時起,世界各地值得信賴的測試人員都體驗到了Duet AI的強大能力,同時Google致力拓展Duet AI的功能,並將其整合到Workspace和Google Cloud的各項產品和服務中。
讓Google從Workspace這個世界上最受歡迎的生產力工具開始說起,每天有超過30億的使用者和超過1,000萬付費的客戶靠它來完成工作。幾個月前Google推出Duet AI ,並提供了許多功能來提高團隊的工作效率,例如協助你在Gmail和Google文件中編寫和潤飾內容、在Google簡報中創建原始圖像、在Google試算表中將想法轉化為行動、將資料轉化為洞察,或在Google Meet中促進更有意義的交流互動等等。從此,有數千家公司和超過一百萬名值得信賴的測試人員使用Duet AI,讓Duet AI成為一位重要的協作夥伴、教練、靈感來源,和生產力推進器,同時協助確保每個使用者和機構都能掌控自己的資料。
Google推出一系列全新進階功能:
Google Meet中的Duet AI:
Duet AI將在視訊通話期間為你做筆記、發送會議摘要,甚至將字幕自動翻譯成18種語言。此外,為了確保每位會議參與者都能清晰地看見、聽見和理解,針對在Google Meet中使用Duet AI的部分,Google也推出新的攝影棚效果(studio look)、攝影棚燈光(studio lighting)和攝影棚音效(studio sound)等新功能。
Google Chat中的Duet AI:
你將能夠直接與Duet AI聊天,詢問有關你的內容的相關問題,獲取協作空間中共享文件的摘要,並了解錯過的對話。Google還提供了更新的使用者介面、新的捷徑和進階的搜尋功能,讓你能夠掌握對話的最新情況,並在Google Chat中提供Huddles功能,讓團隊可以從他們已經在協作的地方開始會議。
各種規模及產業的Workspace客戶都在使用Duet AI,並看到客戶體驗、生產力和效率的改善。Instacart不斷創建出新的客戶服務工作流程,工業技術公司Trimble現在可以更迅速地向客戶提供解決方案。Adore Me、Uniformed Services University和Thoughtworks也透過使用Duet AI來提升生產力,只要簡單的提示,即可快速編寫電子郵件、活動簡報和專案計畫。
今天,Google將在Google Workspace中全面推出Duet AI,同時擴充Google Cloud中Duet AI的預覽版功能,並於今年稍晚全面推出。
Duet AI不僅支援Workspace,現在也提供許多Google Cloud產品與服務適用的AI功能,像是擔任程式設計小幫手,加快開發人員寫程式的速度;化身專家級顧問,協助操作人員迅速解決應用程式和基礎架構的問題;當你的資料分析師,快速提供更實用的深入分析洞察;也可以當資安專家,推薦防範網路資訊威脅的最佳做法。
Google在Google Cloud擴大支援Duet AI協作工具文章的技術進展:
軟體開發:
在整個軟體開發生命週期中,Duet AI都能提供專業協助,減少作業環境切換,有利開發人員提高生產力,長時間維持專注力。除了完成及產生程式碼外,Duet AI還能執行程式碼重構作業,有效進行應用程式現代化。在Apigee中使用Duet AI也非常方便,所有開發人員都能透過簡單的自然語言提示,輕鬆建構應用程式介面(API)並進行整合。
應用程式及基礎架構操作:
操作人員可以直接透過Google Cloud控制台,在許多服務中用自然語言和Duet AI對話,快速取得操作說明,瞭解基礎架構設定、部署最佳做法,以及成本、效能最佳化的專業建議。
資料分析:
在BigQuery中,Duet AI可根據情境幫忙撰寫SQL查詢指令及Python程式碼,產生完整函式及程式碼區塊,自動建議如何完成程式碼,用自然語言解釋SQL陳述式,還能根據你的結構定義和詮釋資料(Metadata)提供建議。有了這些功能,資料團隊將能更專注於提升業務成果。
資料庫翻新及加速:
在Cloud Spanner、AlloyDB和Cloud SQL中,Duet AI能產生程式碼,方便您用自然語言建構、修改或查詢資料。Duet AI現在也支援資料庫移轉服務(DMS),能自動轉換資料庫程式碼,如預存程序、函式、觸發條件和套件等無法用傳統轉譯技術轉換的項目。
資安作業:
Google將Duet AI整合至Chronicle Security Operations、Mandiant Threat Intelligence、Security Command Center等資安產品,協助資安專家更有效率地防範威脅、減少安全工作流程中的繁瑣工作,並提升相關人才的技能。
Duet AI奠基於PaLM 2大型語言模型,採用Google Cloud相關內容進行訓練與微調 (如文件、範例程式碼和最佳做法等),可提供符合當下情境的建議及專業指引。此外,Duet AI在設計階段就遵照Google的AI準則,也完善考量使用者的資料安全與隱私 - 你的資料完全由你掌控,無論是程式碼、輸入Duet AI的內容,或Duet AI產生的建議,都不會用來訓練共用模型或開發產品。
整合資料和AI基礎,大規模簡化分析作業
資料是生成式AI的核心,所以Google為Google的資料與AI雲端開發新功能,期待為資料團隊帶來全新分析資訊並提高生產力。新推出的Duet AI能協助資料工程師和分析師使用BigQuery、Looker、Spanner、Dataplex和資料庫遷移工具。
資料與分析上的幾項重要創新:
BigQuery Studio:
BigQuery Studio是一個可執行資料工程、分析作業和預測分析的單一介面,有助提升資料團隊的效率。此外,Vertex AI基礎模型整合新功能後,也能幫助企業組織利用跨雲端分析、管理及安全資料共用的創新技術,將AI應用於資料湖倉。
AlloyDB AI:
在與PostgreSQL相容的資料庫服務AlloyDB中,Google今天推出的AlloyDB AI是不可或缺的一環,提供成套的整合式功能,如速度高達標準PostgreSQL 10倍的高效能向量查詢,可簡化生成式AI應用程式的建構作業。此外,有了AlloyDB Omni,你幾乎在任何環境下都能執行AlloyDB,從地端部署系統、Google Cloud、AWS、Azure到Google分散式雲端都沒問題。
資料雲合作夥伴:
對客戶的生成式AI策略而言,Google的開放式資料生態系是一大資產,Google也持續擴增Google Cloud上現有合作夥伴的解決方案與資料集。舉例來說,Confluent、DataRobot、Dataiku、Datastax、Elastic、MongoDB、Neo4j、Redis、SingleStore和Starburst等合作夥伴都推出了新功能,協助客戶善用資料,加快並提升生成式AI的開發作業。Google的合作夥伴也在Analytics Hub中新增了更多資料集,供客戶建構、訓練生成式AI模型,包括Acxiom、Bloomberg、Dun & Bradstreet、TransUnion、ZoomInfo等企業都提供了值得信賴的資料。
上述創新能透過統一的資料基礎,協助企業組織發揮資料及AI的最大潛力。有了Google Cloud,企業在任何環境都能執行資料作業,並直接用AI和機器學習工具處理資料,降低移動資料的風險與成本。
解決重大資安難題Google Cloud提供領先業界的資安服務,也是唯一能夠結合不可或缺的前線情報和專業知識、現代化SecOps平台,以及值得信賴的雲端基礎,並同時全部注入生成式AI的強大功能的雲端安全服務供應商,確保客戶能實現理想中的資安成果。
今年Google推出了Security AI Workbench,是業界首創的可擴充平台,由Google的新一代安全性大型語言模型Sec-PaLM 2驅動,結合Google獨有的觀測技術,幫助使用者掌握不斷變化的安全性威脅,也專門為網路安全作業精心微調。幾週前,Google推出Chronicle CyberShield,政府使用這個安全作業解決方案後,能解決資料孤島的問題,也能集中管理安全性資料,提升相關人員對國家當前局勢的認知,並統一規劃處理方式。
除了以上介紹的Duet AI創新技術外,Google宣布的其他幾項功能:
Mandiant Hunt for Chronicle:
這項服務結合Mandiant前線專家對攻擊者行為的最新分析,以及Chronicle Security Operations快速分析、搜尋安全性資料的功能,客戶不必聘請專人,也不必處理工具和人才培訓的複雜工作,就能享有專業級支援。
無代理程式安全漏洞掃描:
Security Command Center提供防護機制管理功能,可為Compute Engine虛擬機器上的作業系統、軟體及網路偵測安全漏洞。
網路安全技術提升:
Cloud Firewall Plus推出進階威脅防護和新一代防火牆(NGFW)功能,強化由Palo Alto Networks提供技術支援的分散式防火牆服務;Network Service Integration Manager則方便網路管理員整合值得信任的第三方NGFW虛擬設備,有效執行流量檢查。
Assured Workloads新增日本區域:
客戶現在可以建立強制實施資料落地儲存日本區域的環境,並擁有將加密金鑰存放本地的控制選項,以及能掌握雲服務業者存取資料的完整稽核日誌。Google也持續拓展監管與主權解決方案合作夥伴計畫,為受法規監管的雲端環境提供更多第三方創新解決方案。
在AI的助攻下,Google已進入全新數位轉型時代。AI不僅提升企業營運與人際互動,也改變了醫療照護和日常溝通模式,連職場安全的維護方式都因而有所變化,而且這些還只是剛開始而已。
現在,Google將攜手構築全新雲世代,能與客戶及合作夥伴一同踏上這趟旅程,Google深感榮幸。
文章轉載自Google台灣官方部落格
延伸閱讀:
Google Pixel 7a輕旗艦新機14,990元開賣!效能、拍照升級亮點一次看
《Google I/O開發者大會》推出旗下首款折疊式手機Pixel Fold|同場加映Pixel Tablet平板電腦
全能工作筆電 MacBook Air M2 開箱動手玩
Google實驗性對話式AI服務《Bard》更國際化、更視覺化、更多整合功能