微軟高層：AI聊天機(jī)器人須學(xué)會(huì)求助，別編造答案
AI聊天機(jī)器人也要會(huì)"投降"

微軟高管呼吁生成式AI要學(xué)會(huì)承認(rèn)自己的不確定性

看著那些AI聊天機(jī)器人信手拈來的各種回答，人們很容易被它們的"無所不知"所迷惑。微軟公司的高管卻提出了一個(gè)有趣的觀點(diǎn) - 這些AI模型其實(shí)也存在局限性,應(yīng)該學(xué)會(huì)主動(dòng)承認(rèn)自己并非萬能。

求救比自我吹噓更重要

微軟副總裁辛赫表示,盡管生成式AI正在帶來各種便利,但模型必須學(xué)會(huì)舉手說"我不確定,我需要幫助"。過去一年里,微軟、谷歌等科技巨頭都在瘋狂推出類似ChatGPT的新應(yīng)用,確實(shí)給人一種"無所不能"的感覺。但事實(shí)上,這些系統(tǒng)有時(shí)還是會(huì)產(chǎn)生一些誤導(dǎo)性的內(nèi)容。對(duì)于企業(yè)客戶來說,這種錯(cuò)誤可能會(huì)造成嚴(yán)重后果。

AI要克服"肆無忌憚"的傾向

辛赫表示,真正聰明的人正在想辦法讓聊天機(jī)器人能夠坦誠地承認(rèn)自己的局限性,而不是強(qiáng)行編造看似可靠的答案。這樣不僅更可靠,也更真誠。畢竟,如果AI連自己都不知道的問題也硬要回答,這對(duì)用戶來說就是一種誤導(dǎo)。相信通過不斷學(xué)習(xí),未來的AI助手會(huì)變得更加謙遜和可靠。

說老實(shí)話,這確實(shí)是一個(gè)讓人思考的問題。科技進(jìn)步的同時(shí),我們也要警惕AI過于"自負(fù)"的傾向。畢竟,真正的智慧不止于博覽群書,更在于知曉自己的局限。期待未來的AI能夠時(shí)刻保持謙遜,在不確定的時(shí)候主動(dòng)"投降",而不是盲目地對(duì)答如流。這樣既能保證回答的可靠性,也能贏得人類的信任。

生成式AI也要學(xué)會(huì)有擔(dān)當(dāng)

承認(rèn)局限性是走向成熟的必經(jīng)之路

我們不能否認(rèn),這些新興的生成式AI確實(shí)為我們的工作和生活帶來了極大的便利。只需簡(jiǎn)單輸入一些關(guān)鍵詞,它們就能迅速給出各種內(nèi)容,從商業(yè)報(bào)告到創(chuàng)意方案無所不能。但正如微軟高管所指出的,這種能力也存在一些隱患。

誠實(shí)比"聰明"更重要

生成式AI有時(shí)會(huì)不由自主地編織出令人信服的"謊言",讓用戶產(chǎn)生錯(cuò)誤的認(rèn)知。對(duì)于企業(yè)客戶來說,這顯然是不可接受的。因?yàn)橐坏┻@些錯(cuò)誤被應(yīng)用到實(shí)際工作中,就可能帶來嚴(yán)重的后果。所以,AI模型必須學(xué)會(huì)主動(dòng)承認(rèn)自己的局限性,而不是盲目地追求完美的回答。

謙遜態(tài)度才是AI進(jìn)步的關(guān)鍵

相比于一味地夸耀自己的能力,能夠坦誠地"投降"才更能體現(xiàn)AI的智慧。很多頂尖的科學(xué)家都強(qiáng)調(diào),真正的智慧往往來自于謙遜,而不是自負(fù)。同理可以應(yīng)用到AI領(lǐng)域。當(dāng)AI模型能夠謙遜地說"我不確定,需要幫助"時(shí),它才算真正成熟。

可以預(yù)見,在未來的發(fā)展中,會(huì)有更多聰明的人致力于讓AI變得更加真誠可靠。只有這樣,生成式AI才能真正融入我們的生活,成為值得信賴的助手。讓我們一起期待AI走向更加理性和負(fù)責(zé)任的未來。