当前位置首页 > VC语言

为解决假新闻等问题,美国大学推出计算机科学伦理课

阅读次数: 次  来源:  发布时间:2018-01-09

加州帕洛阿尔托电 — 医疗职业有一条道德标准:第一,不得伤害他人。


硅谷精神则是:先去做,然后再请求原谅。


如今,随着科技公司不断出现假新闻等问题,那些为硅谷培养顶尖技术人员的美国大学正在加紧为计算机科学引入更接近医学行业的道德标准。


就在这学期,哈佛大学与麻省理工学院共同设置了一门新课程,内容是人工智能的伦理道德与管理规范。德克萨斯大学奥斯汀分校刚刚推出一门名为“计算机科学的道德基础”的课程,有意让它成为所有计算机科学专业的必修课。


而在计算机科学的学术中心斯坦福大学,三位教授与一名研究人员正为明年开发一门计算机科学伦理课。他们希望能有几百名学生参加。


该课程是为了培养下一代技术人员和决策者在创新产品上市销售之前,学会思考它能够产生的各种影响,比如自主武器和无人驾驶汽车。


“这门课程是为了找到并确定未来两年、三年、五年、十年从我们这里毕业的学生将要努力解决的问题,”斯坦福大学颇受欢迎的计算机科学教授、参与此次新课程开发的迈赫兰·沙哈(Mehran Sahami)表示。他因为给马克·扎克伯格上过课,在学校里非常有名。


“科技并不是中立的。创造科技时做出的选择会产生相应的社会影响,”沙哈教授说,他曾在 Google 担任过高级研究员。



左起:斯坦福大学的杰里米·温斯坦(Jeremy Weinstein)、希拉里·科恩(Hilary Cohen)、迈赫兰·沙哈和罗布·莱希(Rob Reich)正在开发明年的计算机科学伦理道德课程。图片版权:Christie Hemm Klok for The New York Times

这些课程的出现恰逢大型科技公司都在努力应对科技带来的副作用。在整个行业“先做再说”思维模式影响下,Facebook 上出现了假新闻,Twitter 有了虚假关注者,Youtube 上有人上传了猥亵儿童视频——层出不穷的负面消息公开挑战了一种在硅谷常见的态度:将道德规范视为障碍。


劳拉·诺伦(Laura Norén)是纽约大学数据科学中心的博士后研究员,她从这学期开始教授一门新开的数据科学伦理课。她表示:“我们至少要教会人们知道,这种想法也有它的阴暗面,需要人们快速行动、打破常规。你可以修复软件,但如果你破坏了一个人的名誉,那是没办法修补的。”


计算机科学课程需要确保学生了解与计算机相关的道德问题,以便获得 ABET 认证——ABET 是一个对大学科学与工程课程进行认证的全球认证机构。有些大学的计算机科学系已经把这个课题融入到很多课程中,其它大学则开设了单独课程。


即便如此,很多学生仍然觉得伦理道德课无关紧要。


“交通行业或医生每天都接触人身伤害或疼痛、死亡,相比之下给应用程序编写软件就很少能想到这些了,”麻省理工学院媒体实验室负责人伊藤穰一(Joi Ito)表示。


美国大学纷纷推进科技道德的原因之一是各类强大工具的普及,比如机器学习——可以通过分析大量数据自主学习任务的计算机算法。在哈佛-麻省理工联合伦理课上共同授课的伊藤表示,这些工具最终都能改变人类社会,因此美国大学都急于让学生了解到它们的潜在影响。


“当我们开始发现有些事物——比如自动驾驶汽车——同时具备帮助和伤害人类的能力,人们就开始急于建立一个道德体系了,”伊藤说。(伊藤还是纽约时报公司一位主管。)


去年秋季学期,康奈尔大学推出了一门数据科学课程。学生会在课上学习处理一些道德问题:比如,当数据中包含的低收入家庭过少时,结果就会偏倚,不能代表一般人群。学生还会针对算法的应用进行辩论,探讨它们是否能够帮助招聘或大学招生等改变人生的决策实现自动化。


“这门课重点是为了让学生了解,他们作为数据科学家在每天的日常工作可能会面临什么,并帮助他们更加系统化地深入思考这些挑战,”负责教授这门课的信息科学助理教授梭伦·巴洛克斯(Solon Barocas)说。



诺伦等人的新课程旨在训练下一代技术人员和决策者,学会思考创新带来的影响。图片版权:Sam Hodgson for The New York Times

在康奈尔大学另一门课程中,同为信息科学系助理教授的凯伦·利维(Karen Levy)则教导学生多关注科技公司的道德规范。


“一个公司所做的选择会牵涉到很多伦理道德上的决策:他们要开发哪种产品?他们对用户数据采取什么策略?如果数据科学伦理教育完全集中于数据科学家的个人责任,那它就可能忽略企业在其中所扮演的角色,”利维教授说。


哈佛-麻省理工联合课有 30 个学生参加,课程主要聚焦于人工智能的道德、政策和法律问题。推动课程的赞助方之一是一个新成立的人工智能道德研究基金会,捐赠者包括 LinkedIn 联合创始人雷德·霍夫曼(Reid Hoffman)和 eBay 创始人皮埃尔·奥米迪亚(Pierre Omidyar)的慈善投资公司 Omidyar Network。


这门课程还包括算法风险评分的普及,即利用数据——如一个人是否曾被退过学,或他有多少朋友有逮捕记录——来预测某人是否有可能犯罪。伊藤说,他希望这门课程可以激励学生提出一些基本道德问题,比如:科技是否公平?如何保证数据没有偏倚?应该用机器来评判人类吗?


有些大学会在信息科学、法律或哲学系设置这样的课程。斯坦福大学计算机科学系将开设新的伦理道德课,暂定名为“道德规范、公共政策与计算机科学”。


这门课程倍受期待,原因之一是沙哈教授在学校非常受欢迎。每年约有 1500 名学生选修他的计算机科学导论课。


新伦理道德课涵盖的课题包括:人工智能和自动化机器、隐私和公民权利、Facebook 等公众平台等。协助开发课程的斯坦福大学政治学教授罗布·莱希表示,课上将会要求学生从软件工程师、产品设计师和决策者的角度来思考这些问题。另外,课程还将安排学生把理想解决方案转化为计算机语言。


“斯坦福绝对有责任带头整合这些道德观点,不过卡内基梅隆、加州理工、加州大学伯克利分校和麻省理工也是一样,”斯坦福大学政治学教授、伦理道德课共同开发者杰里米·温斯坦说,“为科技领域培养下一代领军人物的整个体系都必须加入这个行列。”

您还可能感兴趣的内容: