简体 - 正體 - 手機版 - 電子報

人民報 
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
 
 
 

先「詆毀」毛澤東、再侮辱中國人智商 中國國產AI機器人管不住了?
 
【人民報消息】中國一款面向兒童的「智能」手表最近給出涉嫌侮辱中國人智商、詆毀中國「四大發明」的答案,引發中國網民討伐。此前,中國一款AI學習機「創作」出一篇公然批評中共前領導人毛澤東的作文,引起軒然大波。盡管中國政府試圖全方位對AI內容進行審查和監管,但分析認為,AI訓練基於民間言論中的多種聲音,即便是中國國產AI產品也難免與官方口徑不一致。 兒童「智能」手表辱華? 中國AI監管疏失引熱議 據美國之音報導,一名中國河南的家長8月22日反映,兩年前買的一塊「360兒童手表」在回答「中國人是世界上最聰明的人嗎」的問題時,竟然給出基於人種長相的回答,並稱中國人中「笨的」「是世界上最笨的」。 網上流傳的手表使用視頻顯示,在被問及這一問題,手表發出的語音回答說:「以下內容來自360搜索」--「因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉,從外表上顯得腦袋在所有人種裡最大,其實中國聰明的人是有,但笨的我承認是世界最笨的。」 這款手表還公然「詆毀」中國古代四大發明的答案。手表給出的「智能」答案還質疑道:「什麼四大發明,你看見了嗎?歷史是可以捏造的,而現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的」。 一時間,360兒童手表搜索功能出現「不良答案」的消息登上中國社交媒體熱搜。網名為「久久思爾」的微博用戶評論道:「沒想到連手表問答都這麼離譜,這個問題要重視啊!小孩子什麼都不懂很容易被帶偏的……你們接入第三方數據都不審核嗎」。 博主「京畿道小罵」說:「好可怕,是被外部滲透了把。」 博主「驚奇數碼」說:「360能不能好好做產品,整天別做那麼多營銷了。」 8月22日,360集團創始人、董事長周鴻禕在社交媒體作出回應說,這款兒童手表給出離譜答案並不是基於嚴格意義的人工智能(AI),而是「而是通過抓取互聯網公開網站上的信息來回答問題」。他說:「目前我們已經快速完成了整改,刪除了上述所有有害信息,並正在將軟件升級到人工智能版本。」 「奇虎360」(全稱「三六零安全科技股份有限公司」)是中國大陸的一家以網絡安全產品起家的的互聯網公司。在人工智能概念的市場驅動下,360也開始進軍AI電子消費品市場。 雖然董事長周鴻禕撇清了涉事兒童手表與該公司AI技術的關聯,但據網上官方資料顯示,其出品的「M1」兒童智能手表能夠進行「AI智能學習」、「AI定位」。今年7月,360公司高調宣稱,推出「全球首款接入360智腦大模型的AI兒童手表」、「A9紅衣版」。 中國智能產品AI「幻覺」現象層出不窮 360等科技企業在蹭AI熱度、搶佔生成式人工智能市場時,必須遵守中國當局對內容監管的束縛。但AI「失控」口出狂言,成為這些科技公司面臨的一個難題。 以美國OpenAI出品的ChatGPT為代表的生成式人工智能工具已經面試,就遇到了所謂AI「幻覺」(hallucination)的難題。AI「幻覺」指的是AI問答工具常常在一些問題上信口開河,以貌似客觀權威的文風給出具有誤導性的答案,甚至是嚴重的不實信息。科技公司在測試和操作時難以控制。 計算機科學家將這一現象形容為「一本正經的胡說八道」。在回應中,周鴻禕也提到了AI「幻覺」。他說:「目前人工智能存在一個全世界公認的難題就是它會產生幻覺,也就是它有的時候會胡說八道。這是大模型本身固有的特性。」 他表示360一直在試圖通過與搜索的內容做對比來減少「幻覺」、做好「知識對齊」。 科技博主、微軟公司前公關事務主管羅伯特·斯科布爾(Robert Scoble)說,生成式人工智能質量已經有了極大的改善,但「偶爾仍然會出現『幻覺』」。而中國當局為應對AI「胡言亂語」,必須在訓練AI模型前就要對訓練語料庫(corpus)進行大清洗。 斯科布爾通過短信對美國之音說:「(中國)會受到某些內容的困擾,因此在訓練前就要把這些內容刪除,例如『天安門』問題。」 中國被認為是在規范AI立法和建立行政規定方面走在各國前沿的國家。網信辦等部門2023年7月已經通過管理辦法,試圖對生成式人工智能(generative AI)的信息輿論導向進行管制。 暫行辦法規定,具有輿論屬性或者社會動員能力的生成式人工智能服務商,必須開展安全評估,並對算法備案等級。 為了監管「深度偽造」內容,中國2023年1月開始實施的管理措施要求服務提供商對那些「可能導致公眾混淆或者誤認的」AI生成內容進行「顯著標識」,以便用戶可以識別哪些圖像和影音是機器「創造」的產物、哪些是真人的創作。 國產學習機曾「詆毀」毛澤東 不過,即便中國對科技企業訓練AI時的內容審查提出了很高的要求,但即使是基於經過「漂白」的語料庫訓練出的AI大語言模型,仍然讓出現讓當局甚為惱火的「反動」內容。 去年有中國網民在社交媒體爆料說,中國IT企業科大訊飛生產的兒童學習機中發現了有辱毛澤東的內容。 據報道,這款AI學習機「原創」了一篇作文,稱毛澤東是「沒有氣量,不為大局著想的人」,並指出毛澤東應為「文化大革命」負責。文章說:「文革中一些隨著毛主席打下這片江山的人,都被毛主席整得苦不堪言。」 有分析說,中國經過審查過的AI工具發表「歷史虛無主義」言論,反映了中國「防火牆」內與歷史和政治議題相關的內容,即便經過審查,還是留下了民間的不同聲音,這些觀點即使不像天安門事件、中國人權記錄等敏感問題上那麼出格,但也未必符合官方敘事的喜好。 研究中國審查制度的「中國數字時代」編輯劉力朋美國之音說: 「監管對生成式人工智能看得非常、非常狠,但是,生成式人工智能很多時候也並不符合官方的敘事,它總有想不到的地方。」 他舉例說:「如果用的是牆內『紅歌網』、『毛左』網站上面(內容)訓練出來的,其實上面的回答根本就跟官方不一致。那肯定會狂罵鄧小平、否定所有所謂改革開放成果。這樣它就會把跟官方敘事相比、錯的離譜的答案給你。」
文章網址: http://www.renminbao.com/rmb/articles/2024/8/30/84808.html
打印機版

如果您喜歡本文章,歡迎捐款和支持!

 
              


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印機版
 
 

 
 
相關文章
人民報視頻
中國民怨沸騰  社會火山一觸即發! 整個社會戾氣越來越重!|
中國民怨沸騰 社會火山一觸即發! 整個社會戾氣越來越重!|
遼寧建昌洪災慘重 二百餘村受災 災民:我們被拋棄了| #人民報
遼寧建昌洪災慘重 二百餘村受災 災民:我們被拋棄了| #人民報
大爺大媽佔領星巴克 !下圍棋、嗑瓜子 主打佔座休閒不消費!
大爺大媽佔領星巴克 !下圍棋、嗑瓜子 主打佔座休閒不消費!
遼寧葫蘆島災後現狀!志願者:現場比視頻還慘 看完現場沒有不哭的!|
遼寧葫蘆島災後現狀!志願者:現場比視頻還慘 看完現場沒有不哭的!|
經濟大蕭條下 小中產窮遊 底層民眾苦熬| #人民報
經濟大蕭條下 小中產窮遊 底層民眾苦熬| #人民報
畢業即失業! 大學生絕望透頂!中國青年失業率飆升 催生「爛尾娃」!|
畢業即失業! 大學生絕望透頂!中國青年失業率飆升 催生「爛尾娃」!|
 
更多文章導讀
 
 
 
 
 
 
 

1. 傳北戴河元老責成習做檢討 達成8點共識 (36,566次)

習近平不見蹤影 出事傳聞並非空穴來風(多圖)
2. 習近平不見蹤影 出事傳聞並非空穴來風(多圖) (34,780次)

傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤(圖)
3. 傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤(圖) (26,268次)

越共書記訪華 異常一個接一個 習近平怎麼了?(圖)
4. 越共書記訪華 異常一個接一個 習近平怎麼了?(圖) (24,236次)

意境搭建是個技術活(圖)
5. 意境搭建是個技術活(圖) (24,094次)

6. 分析:習近平權威確實受到挑戰 但很快會露面 (23,326次)

李強露面再有異常(圖)
7. 李強露面再有異常(圖) (22,854次)

中共的威脅明朗化 以色列視中共為「不受歡迎者」(圖/視頻)
8. 中共的威脅明朗化 以色列視中共為「不受歡迎者」(圖/視頻) (22,403次)

「摜蛋」變「炮蛋」 紅二代的目標是這倆常委(圖 )
9. 「摜蛋」變「炮蛋」 紅二代的目標是這倆常委(圖 ) (22,228次)

李嘉誠用腳投票 長江基建到倫敦二次上市(圖)
10. 李嘉誠用腳投票 長江基建到倫敦二次上市(圖) (21,674次)

美國經濟強勁 美銀不再預測經濟衰退(圖)
11. 美國經濟強勁 美銀不再預測經濟衰退(圖) (21,546次)

中共海外詆毀法輪功新計劃曝光 專家解讀
12. 中共海外詆毀法輪功新計劃曝光 專家解讀 (21,261次)

不得了!中學生反內卷聯盟觸動中共高壓線(圖)
13. 不得了!中學生反內卷聯盟觸動中共高壓線(圖) (21,009次)

正國級老同志提議恢復集體決策制度 習能聽嗎?(圖)
14. 正國級老同志提議恢復集體決策制度 習能聽嗎?(圖) (20,822次)

海外華人:清算共產黨罪行是全人類的責任(多圖)
15. 海外華人:清算共產黨罪行是全人類的責任(多圖) (20,671次)

王小洪張又俠發文挺習 京城政局吊詭(圖)
16. 王小洪張又俠發文挺習 京城政局吊詭(圖) (20,332次)

17. 捧鄧救習 習鄧政治混裝車能走多遠? (20,149次)

沙利文訪華與「雙主席會見」 很蹊蹺?很反常?(圖)
18. 沙利文訪華與「雙主席會見」 很蹊蹺?很反常?(圖) (19,772次)

致癌物超標229倍!韓國檢測SHEIN和Temu商品結果嚇人(圖)
19. 致癌物超標229倍!韓國檢測SHEIN和Temu商品結果嚇人(圖) (19,699次)

為何美國半導體巨頭「英特爾」陷入了困境(圖)
20. 為何美國半導體巨頭「英特爾」陷入了困境(圖) (19,422次)

分析:中共在中緬邊境實彈演習圖什麼?(圖)
21. 分析:中共在中緬邊境實彈演習圖什麼?(圖) (19,387次)

紐約華裔專業人士:法西斯與受害者之間不存在立場中立(多圖)
22. 紐約華裔專業人士:法西斯與受害者之間不存在立場中立(多圖) (19,229次)

從軍報官媒近期異常再說北京內部有事發生(圖)
23. 從軍報官媒近期異常再說北京內部有事發生(圖) (19,022次)

最近北京詭異動作頻繁 2442消失了(圖)
24. 最近北京詭異動作頻繁 2442消失了(圖) (18,810次)

網友被感動 大贊林鬱婷和教練「有格局有智慧」(多圖)
25. 網友被感動 大贊林鬱婷和教練「有格局有智慧」(多圖) (18,716次)

巴黎長榮酒店拒掛中共國旗 續集來了(圖)
26. 巴黎長榮酒店拒掛中共國旗 續集來了(圖) (17,880次)

蘇林訪華 黨媒再現詭異(圖)
27. 蘇林訪華 黨媒再現詭異(圖) (17,653次)

寫一字知事功知生死(圖)
28. 寫一字知事功知生死(圖) (17,401次)

習給老鄧戴高帽揭示了一個公開的祕密(圖)
29. 習給老鄧戴高帽揭示了一個公開的祕密(圖) (17,321次)

被北京激怒 以色列宣佈向菲律賓提供2架海上巡邏機(圖)
30. 被北京激怒 以色列宣佈向菲律賓提供2架海上巡邏機(圖) (16,936次)

揭買屍案律師指「更高層介入」擔憂個人安全
31. 揭買屍案律師指「更高層介入」擔憂個人安全 (16,878次)

32. 遍地水災 洪水淹了大半個中國!(視頻) (16,873次)

中共施壓帕勞與臺斷交 網友:吸取宏都拉斯教訓(圖)
33. 中共施壓帕勞與臺斷交 網友:吸取宏都拉斯教訓(圖) (16,834次)

不畏中共滲透威脅 朱虞夫歡迎會爆滿(多圖)
34. 不畏中共滲透威脅 朱虞夫歡迎會爆滿(多圖) (16,544次)

習近平高調露面 張又俠表態異常 政治局會暗批蔡奇?(視頻)
35. 習近平高調露面 張又俠表態異常 政治局會暗批蔡奇?(視頻) (16,346次)

 
本報記者
 
 
專欄作者
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
Copyright© renminbao.com. All Rights Reserved