AI的发展,不仅是技术问题或法理问题,更是伦理问题。
“AI会塑造现世的魔王,而被魔王上身的人自己也不知道”。陈伟星如是形容困在“信息茧房”中的人。
不管陈伟星是为了吸引关注和流量,还是真担忧AI操控人类意识和行为,AI伦理治理都是人类必须要面对和思考的问题。
就目前来看,与其担忧人类会不会被AI所奴役,更值得忧虑的是,人类会不会被人类所奴役。
“张一鸣要当意识形态的皇帝,它做的所谓算法AI,就是为钱操控人类!”。
近日,字节跳动早期投资人陈伟星在朋友圈连续发文“炮轰”张一鸣及抖音,言辞相当犀利。
在陈伟星看来,抖音为了实现自己的意图,用算法推荐等AI技术对所有和它交互的互联网用户做局,最后引导用户的行为符合它的意图目标。
“AI会塑造现世的魔王,而被魔王上身的人自己也不知道”。陈伟星如是形容困在“信息茧房”中的人。
陈伟星目前是担任泛城控股有限公司和泛城资本董事长,曾是快的打车创始人。
截至目前,张一鸣及抖音、字节跳动方面暂未对陈伟星的发言公开回应。
值得注意的是,此番“炮轰”张一鸣后,陈伟星在微信一群聊中表示,自己将重新出山,用完全透明化的方式创立一个新的社交媒体平台干趴抖音。陈伟星给其命名为“5210计划”,并号召国内的AI人才加入。
不管陈伟星是为了吸引关注和流量,还是真担忧AI操控人类意识和行为,AI伦理治理都是人类必须要面对和思考的问题。
早在三年前,复星国际董事长郭广昌也曾批评张一鸣,称“新闻这东西不能说用户想看什么就给什么……”。
01 张一鸣被痛批是为钱操控人类的“魔王”
陈伟星一向心直口快,曾怒怼币圈大佬的割韭菜行为,在区块链圈被人戏称“耿直Boy”。
前几天,他又向张一鸣和字节跳动“开炮”了。
1月5日,陈伟星在朋友圈连发多段文字,对抖音AI进行谴责,直言抖音“利用AI操控人类意识”,并多次用“魔王”一词来形容张一鸣。
陈伟星指出,抖音的AI为了实现自己的意图,会对所有和它交互的人进行做局,让每个人的意识形态符合它设计的感觉,最后引导用户的行为符合其意图目标。
在陈伟星看来,抖音AI做的局并不是为了用户好,而是为了张一鸣自己赚钱、控制人的意识,享受当意识形态届的皇帝的感觉。
陈伟星担心,AI会塑造现实世界的魔王,而被魔王操控的人却浑然不知。
为了证明自己确认张一鸣是知道他可以操控人思想的,陈伟星还了一个举例说明:
浙大一知名AI教授曾和陈伟星的助手说,他和学校领导、张一鸣一起吃饭时,领导曾询问张一鸣,字节能否支持浙大做点事。对此,张一鸣回答道,他可以让抖音在学生填报志愿之前多推送一些浙大比别的大学都好的视频,这样学生们就更倾向于报浙大了。
除了对抖音及张一鸣的批评,陈伟星还透露自己曾是抖音的早期投资人,投资了1000万美金,给他赚取了丰厚回报。
尽管如此,他仍希望张一鸣能够反思如何利用AI来造福人类,而不是为了赚钱操控人类。
对于陈伟星“炮轰”张一鸣和抖音的言论,网友们看法不一。
有一种声音认为,算法推荐给人们带来更多便利的同时,也限制了人们接触不同的观点和信息。人们确实应该意识到算法的局限性。
还有网友认为,陈伟星此番极端表达可能是为自己的新项目吸引关注和流量。
1月6日晚,在微信一群聊中,陈伟星表示,自己将重新出山,用完全透明化的方式创立一个新的社交媒体平台干趴抖音……用超级(价值)对齐让AI爱人类。
所谓“价值对齐”,其实就是让AI的价值观和我们人类的价值观对齐。
陈伟星给其命名为“5210计划”,并号召国内的AI人才加入。
此番“炮轰”张一鸣和抖音的言论,不管陈伟星是为了吸引关注和流量,还是真担忧“AI操控人类”,AI伦理治理都是人类必须要面对和思考的问题。
02 算法推荐存隐忧,AI伦理治理需重视
有人说,互联网是一个喂养型的社会。这种喂养是经过大数据分析、机器学习决策后,推送给人的。
陈伟星谴责的抖音AI正是这样的一种算法推荐技术。
简单来说,算法推荐技术直接或间接地决定了用户能看到什么。
基于AI算法和个性化推荐引擎技术,平台可以根据每个用户的兴趣偏好和行为数据进行个性化的资讯、视频、音乐等个性化内容推荐。
用户的所有浏览记录、点赞、评论、分享等行为,以及用户的关注列表和搜索历史等信息都可能会被算法“征用”,进而帮助应用从活动轨迹、日常行为、观看习惯、地理位置、职业、年龄等维度挖掘出用户的兴趣,并不断更新根据用户行为分析出的用户模型。
早在2015年,张一鸣就在一次演讲中提到,今日头条的推荐系统,用户用得越久会越好用。他形容做这个产品的感觉是,系统有时有上帝的视角,能够俯视观察所有用户。
那么,AI算法推荐到底会不会影响人的意识和行为?答案无疑是肯定的。
如果想让用户逐渐丧失学习和思考的能力,那么平台可以推荐尽可能多的带有低俗化、泛娱乐、误导性等特点的内容;如果想让用户从一个保守消费的人逐渐变为一个超前消费的人,可以推荐尽可能多的带有炫富、攀比、享乐等特点的内容;如果想让用户去某个景点旅游、去某家餐馆吃饭,去某所大学深造等,可以推荐尽可能多与之相关的内容……
此外,还有许多媒体曾报道抖音上存在一种现象,在同一视频下方的评论区,不同账号看到的内容是不一样的。而且显示的评论偏于自己的喜好,鲜少看到异样的声音。
尽管这种算法让应用更“懂”用户,但也出现越来越多质疑的声音。
算法仅根据个人喜好精准推送感兴趣的内容,或是过度用算法过滤信息,都会让用户陷入像蚕茧一般的“茧房”之中。
随着网民意识的提高,如何缓解公众对于算法对用户潜在操控的担忧,是抖音们未来需要思考和面对的问题。
在ChatGPT问世的时候,全球范围对于人工智能使用的争论也从未停止。
人们一边享受着其带给自己工作和生活上的便利,一边担忧着自己的隐私是否会被AI窥视。
如今人工智能运用的风口已然到来。AI在不断渗透到我们生活的方方面面的同时,如何平衡AI的利与弊,也成为摆在人们面前的重要课题。
就目前来看,与其担忧人类会不会被AI所奴役,更值得忧虑的是,人类会不会被人类所奴役。
除了从立法、监管角度进行完善之外,作为技术的开发者与获利者,相关企业们更应该牢记,通过一些“灰色”手段获利,终非长久之计。
因为AI的发展,注定不仅是技术问题或法理问题,更是伦理问题。
文章来自于微信公众号 “创头条”(ID:ctoutiao),作者 “史慧芳”
发评论,每天都得现金奖励!超多礼品等你来拿
登录 后,在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则