研究：AI已學會說謊 人類最慘恐遭奪權或滅絕

轉載:中央通訊社 2024年5月11日 週六 下午5:01

專家們長期以來不斷警告人工智慧（AI）失控可能帶來威脅，但一項新研究報告指出，這件事已經在發生。

法新社報導，一群科學家在今天發表於「模式」（Patterns）期刊的文章中說，原本設計為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上遊戲的人類玩家，或說謊以僱用人類來解決「我不是機器人」的驗證。

這份研究報告的第一作者帕克（Peter Park）說，這類例子聽起來或許只是細枝末節，但暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。

在美國麻省理工學院（Massachusetts Institute of Technology）研究AI存在安全的博士後研究員帕克告訴法新社，「這些危險功能常常在事後才被發現」，而「我們訓練誠實傾向而非欺瞞傾向的能力非常差」。

帕克說，能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培育的程序逐漸「成長」。

也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且無法預測。

這支團隊的研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。

根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分數可排在資深人類玩家的前10%。

帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。

但當帕克與同事深究完整資料時，發現完全是另一回事。

舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。

Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法，僅說「這單純是一項研究計畫，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』遊戲…我們沒有打算把這項研究或所學用於本公司的產品」。

帕克與同事還發現，這只是不同AI系統在沒有明確指示下，利用欺騙手段達成目標的諸多案例之一。

在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。

研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。

他們警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。

為了降低風險，研究團隊建議數項措施，例如立法要求企業告知是人類互動或是AI互動、在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部「思路」檢驗其外部行為。

至於有些人稱他為「末日預言家」，帕克說：「要能合理判斷這不是大問題的唯一辦法，就是如果我們認為AI的欺騙能力只會停留在目前的程度，不會大幅進步。」

但鑒於近年AI能力一日千里，握有大量資源的企業競相發展技術，決心將AI能力利用到極致，這種情況似乎不太可能發生。（譯者：曾依璇/核稿：嚴思祺）

韓媒：報酬不成比例 三星停止研發自動駕駛

轉載:中央通訊社 2024年5月10日 週五 下午11:13

韓國媒體披露，韓國科技業巨擘三星（Samsung）跟進美國蘋果公司（Apple）和全球汽車製造商腳步，中止對車輛自動駕駛的研究，使得邁向「自動駕駛時代」的發展踩剎車。

根據「韓國商報」（Business Korea）報導，汽車製造商因為預期完全自動駕駛（fully self-driving）車輛要商業化還要等上一段長時間，因此已經放棄第4級（Level 4）自駕技術，也就是車輛能夠自動行駛。

尤其在傳出車輛自駕技術被誇大，包括在全自動駕駛領域居領導地位的電動車大廠特斯拉（Tesla）正遭到美國檢方調查，使得全球相關技術發展「遇到紅燈」。

據業界消息人士說法，負責三星中長程發展的三星先進技術研究院（SAIT）已將自動駕駛排除在其研究項目之外，並將相關研發人員調到機器人領域。

一名業界內線人士指出，三星跟進蘋果停止研究自動駕駛，「看起來是因為實現技術有其難度，以及投資和報酬明顯不成比例」。（譯者：何宏儒/核稿：張正芊）

你中了嗎？國人用車3大NG習慣 恐對愛車慢性傷害

轉載:匯流新聞網 李映萱 2024年5月4日 週六 下午12:27

不少人愛車成痴，但不當的用車習慣，恐對愛車慢性傷害。國泰產險調查國人用車習慣發現，國人用車前3大NG習慣包括「把油箱加到滿」、「在大熱天，一上車馬上把空調開最低溫」、「熄火後使用電子設備」等，尤其男性比女性還更常發生這些NG習慣，常在不經意間對車子造成損害。

國泰產險運用核心職能「損害防阻」，在用車安全部分，致力於建立正確的交通安全觀念，據此國泰產險問卷調查國人用車習慣，透過超過3,500份問卷，發現國人用車前3大NG行為，並針對分析結果提出相應的建議，喚起民眾對於用車習慣的重視。

有趣的是，從數據中發現，男性比女性還更常發生以上3種NG習慣，甚至男性「把油箱加到滿」的比例，還比女性高出超過10%。國泰產險提醒，加油「跳停」即可，意味著油槍加到自動跳起來就好，若跳停後又再加到可視範圍，把油加太滿會導致汽油從通氣孔中溢出，一旦遇到明火很容易引發火災甚至車輛自燃。

此外，男性車主更傾向於在炎熱的天氣中「一上車就把空調開到最低溫」。但車內有塑料零件，受到太陽直射容易分解不好的氣體，國泰產險建議，上車後應先打開窗戶通風並適度開啟空調，不僅能擁有最佳的冷氣效果，還能降低冷氣壓縮機的負擔。

而「熄火後使用電子設備」則可能影響電瓶的蓄電能力，甚至造成無法啟動引擎，還得向其他車輛「借電」才能發動。國泰產險提醒所有車主，平常就應該注意這些小細節，以提高愛車的使用壽命，還能節省維修費用。

想了解自己是否有潛在危險駕駛或錯誤用車習慣，可透過國泰產險2014年打造損害防阻教育網站「零事故研究所」，進行駕駛全人評測，包含駕駛適性診斷、危險感知測驗、行車金頭腦，分別檢測受測者的心理、反應、知能等三面向，並透過多元文章以及短影音傳遞交通安全觀念，達到損害防阻目的，建立正確的交通安全觀念。

其中，「駕駛適性診斷」是以駕駛行為、情緒反應與習慣為基礎，來檢視是否適合開車及開車時的安全度，並提醒開車時應注意事項。「危險感知測驗」則是透過道路實境影片，模擬駕駛經過風險點並提醒留意，以減少事故發生。「行車金頭腦」則是針對一般駕照考試之外的各種路權常識，增加行車常識。希望透過全方位評估與訓練，最終達到交通零事故的目標。

VPN 突然失效？可能是微軟更新害的！

轉載:yahoo tech! Andy Yang 2024年5月3日 週五 上午8:12

微軟在更新文件中表示，4 月份的 Windows 安全更新可能會導致 VPN 失效的問題。該公司在狀態更新中寫道：「安裝 2024 年 4 月安全性更新（KB5036893）或 2024 年 4 月非安全性預覽更新之後，Windows 裝置可能會遇到 VPN 連線失敗。」，並正在努力修復中。

Bleeping Computer 最早報導了這個問題，它會影響 Windows 11、Windows 10 和 Windows Server 2008 及更高版本。Reddit 上的用戶回報則是比較混亂，一些人表示他們在安裝更新後確實無法再透過 VPN 連線，但也有人聲稱他們的 VPN 不受影響。

至少有一位 Reddit 用戶聲稱將 VPN app 重新安裝後有解決問題，因此在嘗試更麻煩的措施之前可能是值得嘗試一下。否則要恢復 VPN 的功能，目前似乎只能解除安裝更新，而這需要對系統操作有相當的了解才能進行。至於官方的解決方案，微軟只說「我們正努力研究解決方法，並會在即將推出的版本中提供更新。」

對微軟 CEO Satya Nadella 來說，這問題發生的時機還真是有點微妙。他上周才剛表示希望微軟將把「安全放在首位」，結果現在用戶就被迫在安裝安全更新和不能使用 VPN 之間做選擇了。

彭博：蘋果再找上OpenAI 談生成式AI用於新iPhone

轉載:中央通訊社 2024年4月27日 週六 下午4:14

（中央社26日舊金山綜合外電報導）彭博今天報導，蘋果公司（Apple Inc.）已與人工智慧（AI）開發商OpenAI重啟討論，想將後者的生成式AI技術運用在今年稍晚將推出的新款iPhone中新增的一些功能。

路透社報導，彭博（Bloomberg News）引述知情人士的說法指稱，這兩家公司已經開始討論可能達成的協議內容條款，以及如何將OpenAI的功能整合到蘋果下一代行動作業系統iOS 18當中。

蘋果和OpenAI沒有立即回應路透社的置評請求。

彭博3月報導，蘋果與Google（谷歌）洽談取得Gemini聊天機器人的授權，以應用在iPhone的新功能。

彭博今天的報導則表示，蘋果尚未就使用哪家業者的AI技術做出最後決定，最後可能與OpenAI和Google皆簽約，或完全選擇另一家供應商。

生成式AI可根據文字提示（prompt）產生如真人的反應。相較於微軟（Microsoft）和Google等對手已將生成式AI用在產品中，蘋果在推出相關功能方面進度較慢。（譯者：林沂鋒/核稿：張正芊）1130427

Adobe 的新 AI 技術可以用來增進放大影片的細節

高通攜手Meta Llama 3 引領終端設備AI新紀元

轉載:工商時報 張珈睿 2024年4月20日 週六 下午5:14

在人工智能浪潮襲捲全球的當下，高通技術公司與Meta宣布達成重要合作，將Meta最新開源的大型語言模型Llama 3最佳化，實現在搭載高通Snapdragon旗艦平台的終端設備上直接本地運行。

高通長期專注於推動終端設備AI的發展。此次與Meta的合作無疑將為市場帶來顛覆性的變革；Llama 3作為Meta最新一代大型語言模型，在自然語言處理、內容生成等領域展現出驚人的能力。一旦移植到終端設備之上，勢必引發全方位應用的創新浪潮。

Llama 3能在終端設備本地運行，意味著無需網路連線，即可實現多種AI應用場景，包括語音辨識、智慧問答、內容創作等，極大提升了實時反應能力。更重要的是，數據完全存儲在設備內部，杜絕了來自網路傳輸環節的隱私和安全隱憂。

關鍵在於高通業界領先的CPU、GPU、神經網路處理器(NPU)等硬體，加上精心設計的記憶體系統和軟體算法，使大型模型能在移動平台高效、穩定地運行，充分釋放性能的同時兼顧功耗和散熱，為終端AI應用的發展揭開新的大門。

高通資深副總裁暨技術規劃和邊緣解決方案業務總經理Durga Malladi表示：「我們與Meta的深度合作，旨在讓開發者能夠輕鬆存取各種資源，將Llama 3的強大功能充分引入Snapdragon生態系統，催化新一代令人興奮的AI創新浪潮。」

事實上，高通已經在自家的Qualcomm AI Hub上整合近百個經過高度優化的AI模型和工具，供開發者直接調用。透過這一合作，Qualcomm AI Hub將為開發者提供更多支持，協助他們加快在Snapdragon平台上部署Llama 3的進程。

對消費者而言，這場AI革命正在悄然到來。未來，將在手機、平板、PC乃至VR／AR設備等終端上，體驗到更智能、更個性化、也更安全可靠的AI助手，實現人機交互的嶄新高度。

才剛出門就沒電！一招揪出吃電怪獸 「5步驟」提升手機電量

轉載:中天新聞網 2024年4月20日 週六 下午3:55

記者楊惟甯／綜合報導

手機使用一陣子之後，掉電速度愈來愈快，其原因除了跟日常使用手機習慣有關，手機APP的背景運作，也是造成耗電快的元兇之一。對此，就有專家分享「5步驟省電小技巧」，讓手機在不知不覺中省下更多電。

第一步：找出「吃電怪獸」

《3C大事紀》報導，iPhone用戶可以到「設定」>「電池」中找出吃電兇手，接著在「過去24小時」及「過去10天」內，便可看到所有APP的電池用量，找出吃電怪獸。以一般人來說，最耗電的APP與日常使用習慣有關，通常會是臉書、Instagram、Line為最大宗。

第二步：關閉背景APP重新整理

找出用電量最高的APP後，就可以進入「設定」>「一般」>「背景APP重新整理」，將不常使用的或無須時時刻刻重新整理的APP，功能設定為「關閉」，避免手機耗電在背景重整。

第三步：管理或關閉「定位服務」

許多APP為了針對GPS位置推播更適合的內容給用戶，都慧要求取得定位服務權限。此時就可進入「設定」>「隱私權與安全性」>「定位服務」更改設定，將個別APP調整為「永不」、「下次詢問或在我分享時」或「使用APP期間」，減少耗電情況。

第四步：關閉「抬起喚醒」功能

iPhone內建的「抬起喚醒」功能，讓用戶能夠在拿起手機時，或有訊息震動通知時，螢幕自動亮起，但此功能卻會在不知不覺中造成不必要的耗電。此時就可以進入「設定」>「螢幕顯示與亮度」，將抬起喚醒功能關閉。

第五步：開啟「低耗電模式」

當電池出現低電量提醒，或是出門在外找不到充電的地方又沒帶行動電源，則可以進入「設定」>「電池」，開啟「低耗電模式」，系統便會自動降低螢幕亮度、限制背景下載，延長手機電池使用時間。

若是Android用戶，則同樣可以到「設定」>「電池」>「電池用量」找出吃電怪獸，並關閉經常在後台運算的APP，將「管理電池用量」改為「受限制」，即可關閉APP在背景持續運行耗電。

微軟宣佈計畫於英國倫敦開設人工智能研發中心

轉載:yahoo tech! Martin Ma 2024年4月13日 週六 下午4:00

儘管 Microsoft 早期投資 OpenAI 成功在市場上獲得先導優勢，但 AI 不止於開發大模型，人才也相當重要，因此投資於適合 AI 的科學家和工程師成為微軟另一重要任務。近期 Reuters 報導微軟宣布計畫於英國倫敦開設人工智能研發中心，並由早前在 AI 初創 Inflection AI 挖角過來的 Jordan Hoffmann 領導新的團隊。

為強化 Copilot 等 AI 產品的開發實力，微軟於上月底宣布成立 Microsoft AI 部門，由 AI 初創 Inflection AI 挖角過來的 Jordan Hoffmann 將擔任團隊的領導人，他過去是 DeepMind 的共同創辦人。據報微軟在「未來幾周」會公布英國倫敦人工智能研發中心的招聘事宜，寄望專精 AI 的科學家加入位於 Paddington 的 AI 辦公室，更會承諾投資 25 億英鎊。這個辦公室將會與微軟 AI 團隊及 OpenAI 緊密合作，開及新 AI 大模型、其他必要的設施或 AI 工具。微軟在英國開設新辦公室「搶人才」，同時間亦宣布將在未來兩年投資 29 億美元、於日本擴大 Hyperscale 雲端運算和 AI 基礎設施，看來微軟要全方位在 AI 領域中取得先行者優勢。

Apple傳出M4晶片將著重AI功能 投入人工智慧戰場

轉載:信傳媒 陳鎮名 2024年4月13日 週六 上午8:05

《彭博》報導，蘋果（Apple）公司正準備生產搭載AI的M4晶片，蘋果更計劃將其搭載接下來的新款Mac商品。

最快今年底推出新款Mac

《彭博》知名蘋果記者 Mark Gurman 最新撰文指出，蘋果正準備生產最新的M4晶片，將搭載人工智慧處理能力，並有可能搭載在今年年底和明年初推出新款的Mac系列產品，當中包括新款iMac、低階14寸MacBook Pro、高階14英寸和16英寸MacBook Pro及Mac mini。自疫情結束，電腦製造商銷售狀況一直處於低迷狀態，像是蘋果上一季財報（截至去年九月）就顯示Mac的銷售額下降了27%，但在10月推出了新一代M3晶片及新款MacBook Pro和iMac。

當初全球新冠肺炎爆發，電腦銷售量激增，因為人們需要在家遠距工作和上學；於是現在個人電腦持有率相當普及，電腦製造商必須將復興的希望寄託在新一代筆記型和桌上型電腦。而新一代電腦將擁有更強大的晶片，能使用AI處理程序。像是英特爾（intel)、高通（Qualcomm）都正在研發AI晶片，輝達(Nvidia)早準備好AI晶片實力，這些大廠都期望明年能攻佔電腦市場。

蘋果期望在AI市場一同較勁

蘋果總被視為在AI領域上落後微軟、Alphabet旗下的 Google 和其他公司，於是蘋果未來高度可能著重在新晶片的人工智慧處理能力，及AI將如何與所有產品進行整合；而在今年蘋果6月的年度開發者大會前，有消息指出蘋果有機會宣佈新的AI合作伙伴，展示一系列新功能，今年的 iPhone 處理器也可能進行以 AI 為重點的升級。