IT 人員憂心人工智慧背後的數據問題

根據SolarWinds的一項調查,超過5分之2的科技人員已經有過負面的人工智慧體驗。

簡明報導:

• 根據SolarWinds上週公布的一項針對近700名企業科技人員的調查,IT專業人士對於企業部署新興人工智慧技術的準備程度缺乏信心。
• 不到一半的受訪者認為公司內部資料庫已準備好應用人工智慧,而逾三分之一的人則對用於訓練大型語言模型的數據表示擔憂。
• 儘管存有疑慮,但組織還是在爭相採用這項技術。根據該報告,近三分之二的公司已經在新興人工智慧能力上投資500萬美元或更多,近三分之一的公司更是投入超過2500萬美元。

深入分析:

IT專業人員對基於大型語言模型的技術潛力抱持樂觀態度。隨著企業建置複雜的混合雲生態系統,他們的科技團隊一直仰賴機器學習來自動化IT流程、協助異常偵測並及早發現技術故障。

但生成式人工智慧的快速進展引起了警鐘,因為IT從業人員正在評估驅動大型語言模型的數據狀況。

儘管近90%的IT員工和領導階層對人工智慧持正面看法,但報告指出,超過一半的人希望看到更有形的技術效益證明。近一半的受訪者曾有過負面的人工智慧體驗,大多與數據隱私和安全議題有關。

SolarWinds工程資深副總裁Krishna Sai表示:「鑑於當前IT專業人員所面臨的挑戰,人工智慧可以帶來很多好處。但我們確實需要更全面地思考,才能將它建構為一項可持續發展的事物,而非一陣風潮。」

SolarWinds正在將生成式人工智慧整合至其企業軟體解決方案中,上個月宣布的第一個應用是服務台。Sai說,這個工具可作為服務台助理的助手,總結問題單歷史並建議代理人回覆內容。

根據調查,已有超過三分之一的企業使用人工智慧工具來簡化IT運作。但對近四分之一的IT專業人員而言,安全疑慮仍是採用的最大障礙。大多數受訪者(72%)表示,歡迎政府就安全議題增加法規管制。

安全也是SolarWinds關注的重點。該公司至今仍在應對2020年Nobelium威脅行為者發動的一系列供應鏈攻擊的餘波。2023年,美國證券交易委員會對SolarWinds及其資訊安全長提出民事指控,指他們誤導投資人關於安全能力的資訊。但公司否認這些指控。