11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買(mǎi)1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵?lái)騰訊云選購(gòu)吧!
隨著ChatGPT等生成式人工智能的出現(xiàn),越來(lái)越多的用戶(hù)在享受便利的同時(shí)發(fā)現(xiàn),AI經(jīng)常會(huì)出現(xiàn)一本正經(jīng)的胡扯”的現(xiàn)象,有時(shí)甚至?xí)幸恍┳屓思?xì)思極恐的發(fā)言。NVIDIA推出了一款名為NeMo+Guardrails的軟件,它能夠?yàn)槿斯ぶ悄苣P驮O(shè)置安全護(hù)欄”,避免AI輸出一些不良的內(nèi)容。通過(guò)這種方式,人工智能胡說(shuō)八道”的情況會(huì)得到有效降低,一些可能存在危險(xiǎn)的回復(fù)也能夠被直接攔截。