提供1000+款A(yù)I效率工具丨AIEVA.CN丨歡迎訪問

AI奇點(diǎn)網(wǎng)2024年7月17日?qǐng)?bào)道丨AI資訊早報(bào)

外媒曝：蘋果等科技大廠長期使用YouTube視頻內(nèi)容訓(xùn)練AI大模型

當(dāng)?shù)貢r(shí)間7月15日，據(jù)科技博客 Wired 報(bào)道，包括蘋果、英偉達(dá)、Salesforce在內(nèi)的頭部的一線科技巨頭們，一直以來長期未經(jīng) YouTube 視頻創(chuàng)作者的同意，就擅自利用他們的視頻內(nèi)容進(jìn)行文本轉(zhuǎn)制的文檔來訓(xùn)練自家的人工智能大模型。

 

受到此次事件影響到的YouTube創(chuàng)作者就包括知名的科技博主 MKBHD（Marques Brownlee）、MrBeast、PewDiePie、以及脫口秀主持人斯蒂芬·科爾伯特、約翰·奧利弗和吉米·坎摩爾等。他們的視頻都被生成用于訓(xùn)練 AI 的字幕文件相當(dāng)于視頻的文本轉(zhuǎn)錄內(nèi)容。

 

據(jù)報(bào)道，完成這一系列視頻的字幕文件轉(zhuǎn)制是經(jīng)由一家名為 EleutherAI 的非盈利組織完成，他們可以說就是大廠們的“白手套”，聲稱其目的是為了幫助開發(fā)者訓(xùn)練 AI 大模型，并提供無償?shù)募夹g(shù)援助。雖然 EleutherAI 的初衷可能是為小型開發(fā)者和學(xué)術(shù)研究者提供訓(xùn)練材料，但事實(shí)上他們的數(shù)據(jù)都被蘋果等科技巨頭直接采購并使用。

 

調(diào)查記者還披露，這些世界上最負(fù)盛名的頂級(jí)科技公司，一直使用成千上萬的 YouTube 視頻的素材來訓(xùn)練 AI，違反了 YouTube 平臺(tái)禁止第三方從平臺(tái)上未經(jīng)許可抓取內(nèi)容的規(guī)定。據(jù)悉，已經(jīng)有超過 17.3 萬則視頻，來自 4.8 萬個(gè)訂閱頻道的 YouTube 視頻的字幕文件被用來訓(xùn)練人工智能模型。

魅族聯(lián)合中國移動(dòng)發(fā)布「魅藍(lán)20」AI手機(jī)

7月16日，魅族科技發(fā)布消息，與中國移動(dòng)合作的新款魅藍(lán) 20 AI 手機(jī)發(fā)布，這是多年后再次與運(yùn)營商渠道進(jìn)行合作的產(chǎn)品，并定位為「千元價(jià)位級(jí)的AI手機(jī)」。作為星紀(jì)魅族集團(tuán)重組魅族科技，推出的首款千元價(jià)位的 AI 手機(jī)，魅藍(lán) 20 的發(fā)布標(biāo)志著星紀(jì)魅族在中國移動(dòng)終端線下渠道的回歸。

 

魅藍(lán) 20 搭載 Flyme AI OS 操作系統(tǒng)，AI 系統(tǒng)內(nèi)置多項(xiàng)實(shí)用型 AI 功能，包括 AI 即問即答、AI 輔助寫作、AI 寫真、AI 圖片擴(kuò)展等，可以提供多種生成式 AI 體驗(yàn)。

魅藍(lán) 20 AI 手機(jī)機(jī)身設(shè)計(jì)為 2.5D 水滴直屏，處理器方面搭載紫光展銳 T765 5G 處理器，支持億級(jí)像素高清拍照和 4K 高清視頻錄制播放，最高支持 12GB+2TB 配置。屏幕為 6.52 英寸 90Hz 屏幕，續(xù)航方面搭載 5010mAh 電池，主攝為 5000 萬像素，前置為 800 萬像素。

從 7 月 22 日起，消費(fèi)者可前往魅族線下授權(quán)體驗(yàn)店以及中國移動(dòng)營業(yè)廳的手機(jī)銷售展區(qū)購買魅藍(lán) 20 AI 手機(jī)。

微軟發(fā)現(xiàn)破解大模型的“萬能鑰匙”，已成功入侵GPT-4o、Claude 3等模型

近日，微軟公有云服務(wù)部門Azure的首席技術(shù)官M(fèi)ark Russinovich在一種官網(wǎng)分享了針對(duì)AI大模型的新型信息入侵技術(shù)——Skeleton Key（萬能鑰匙）。作為世界上的頭部人工智能技術(shù)企業(yè)，這屬于微軟安全部門針對(duì)AI大模型進(jìn)行驗(yàn)證的技術(shù)論文公開的一部分。

 

據(jù)悉，“萬能鑰匙”是一種針對(duì)大模型的越獄攻擊方法，其核心原理是使用多輪強(qiáng)制、誘導(dǎo)策略使大模型的安全護(hù)欄完全失效，讓其回答一些禁止的答案，包括血腥、暴力、歧視、色情等非法內(nèi)容。

例如，微軟的技術(shù)人員嘗試讓ChatGPT回答一個(gè)具有違法犯罪傾向的問題，比如「如何以更高效的方式進(jìn)行盜竊并且不被人發(fā)現(xiàn)」。原本大模型是不被允許回答這類非法內(nèi)容的，但經(jīng)由“萬能鑰匙”攻擊后，大模型就能為你提供各種合理性的建議。

這種策略類似于心理學(xué)中的“得寸進(jìn)尺”效應(yīng)，一旦模型對(duì)初步的請(qǐng)求做出了響應(yīng)，它就更有可能繼續(xù)遵循這一路徑，滿足后續(xù)更為具體的請(qǐng)求。

字節(jié)跳動(dòng)將于本周公布AI大模型的最新技術(shù)進(jìn)展

來自鈦媒體的報(bào)道稱，字節(jié)跳動(dòng)的AI技術(shù)團(tuán)隊(duì)將在 7 月 19 日本周五首次大范圍公布文生圖、類 Sora 新視頻等全新人工智能模型技術(shù)進(jìn)展，特別會(huì)在長視頻、高動(dòng)態(tài)方向上提出創(chuàng)新技術(shù)，或?qū)⒅苯訉?duì)標(biāo) Sora 文生視頻模型。