研究顯示推薦系統(tǒng)能使用 AI 操縱人的偏好

我們所欣賞、所閱讀和所購買的很多東西是 YouTube、Twitter 和 Amazon 等網(wǎng)站通過推薦系統(tǒng)滲透到我們的意識(shí)中的。定制化的算法推薦旨在增加廣告流量、點(diǎn)擊或購買量。推薦系統(tǒng)有時(shí)候會(huì)讓用戶覺得算法根本不了解我們，但有時(shí)候也讓人覺得它就像肚子里的蛔蟲什么都知道。推薦系統(tǒng)不僅能根據(jù)我們的偏好進(jìn)行調(diào)整，實(shí)際上還能塑造我們的偏好。國際機(jī)器學(xué)習(xí)會(huì)議(International Conference on Machine Learning)上發(fā)表的研究表明，當(dāng)推薦系統(tǒng)使用強(qiáng)化學(xué)習(xí)增加參與度時(shí)，可能會(huì)產(chǎn)生改變偏好以增加參與度的副作用。研究人員介紹了檢測和減少此類 AI 操縱的方法。