語言模型可以生成連貫且語法正確的文本，但它們并不能甄別虛假信息。
谷歌為了應對ChatGPT而自信推出的Bard，迅速被指出犯了低級錯誤，這暴露了類似的人工智能系統實際上并不具備“理解能力”。
【資料圖】
華爾街見聞稍早時候曾介紹，有專家指出Bard在該產品的第一個演示視頻中犯了一個“事實錯誤”。
在視頻中，Bard回答了一個關于通過詹姆斯韋伯太空望遠鏡獲得的新發現的問題，稱它“拍攝了我們太陽系外行星的第一張照片”。然而天文學家們指出，第一張系外行星照片是由歐洲南方天文臺的甚大望遠鏡（VLT）在2004年拍攝的。
天文學家們認為，這一問題可能源于人工智能誤解了“模棱兩可的NASA新聞稿，低估了過去的歷史”。
這個故障凸顯了Bard等所謂的生成人工智能系統的一個常見缺陷：這些系統不能“理解”它們反芻的信息，只能根據概率進行猜測。而微軟也承認了它的聊天機器人也面臨類似的挑戰。
盡管語言模型可以生成連貫且語法正確的文本，但它們也會表達虛假信息。
離奇的是，上述錯誤通過了谷歌的各個工程、法律、公關和營銷部門，并在出現在了Bard最重要的演示中。
Bard的“出師不利”，無疑對本就急需這一戰“扳回一城”的谷歌造成打擊。周三，谷歌大跌超7%，市值蒸發逾1000億美元。
除此之外，谷歌的利潤下降可能也在所難免。去年四季度，谷歌營收和EPS均遜于預期，連續第三個季度盈利同比下滑，廣告收入下降了4%，是其歷史上第二個季度萎縮。
行動太倉促Bard出現重大錯誤，可能反映出谷歌為了應對微軟，在推行這一項目時過于匆忙。
有媒體指出，ChatGPT在去年推出時，也被人們發現了會提供錯誤信息。盡管OpenAI沒有提供錯誤信息頻率的統計數據，但這家公司表示，會通過定期更新使該工具變得更好。
相比之下，谷歌似乎在使用這項新技術方面更加大膽。
在微軟發布的必應的例子中，聊天機器人的答案將被降級到頁面的一側，而不是通常搜索結果將保留的前面和中心。機器人的回答還包括腳注和來源材料的鏈接，這在ChatGPT當中是沒有的，但這使得微軟的工具看起來更值得信賴。
反觀谷歌的Bard，回答放在頁面中間、搜索結果上方顯示了單一的摘要答案，并且沒有腳注，這意味著用戶不可能識別來源。
這也許是因為谷歌面臨著迅速行動的壓力。
OpenAI等公司試圖通過增加數十億個參數來提高語言模型的準確性，但一些研究人員懷疑，隨著模型的增長，準確性的回報會遞減。
對微軟和谷歌來說，消除這些持續存在的少數謊言可能成為一項長期挑戰。
關鍵詞：
10天超2500萬玩家 《守望先
環球播報:康躍科技資產脫胎
醫保卡余額能取出來嗎（醫保
環球今亮點！研報：中金公司
財面兒｜業績由盈轉虧且虧損
蘭博基尼Aventador繼任者最
48小時點擊排行
