他强调,人们应对数据所可能含有的偏见提高意识,而推动人工智能和大数据的发展,不应只是数据科学家的任务。
以人工智能进行推算或帮助人们做决定的工具越来越普及,但如果单靠大数据预测人的行为或潜能,数据中所存在的偏见,可能会不经意导致社会不公平现象的延续。
黄思强受访时说,不少人认为以电脑科技推算出来的结果不会偏颇,但其实未必。他以美国非营利网络新闻机构(ProPublica)一项调查为例指出,美国部分州政府司法制度利用人工智能技术推测被告或囚犯的重犯概率,但这种评估方式对黑人存在偏见。
新加坡国立大学数据科学研究所副所长黄思强教授,昨天在醉花林俱乐部主讲“从数据到人工智能”讲座时,描述人工智能、大数据的开发与利用所带来的契机,也谈及其中的隐忧。黄思强也是国大电脑科学系教授。
他说,由于现实社会总会存在着不平等,在机器学习过程中输入相关数据,所推测的结果也可能包含对某些群体的偏见。
不少公众在提问时对人工智能会否取代人类的工作,表示担忧,黄思强说,电脑和机器在计算能力和记忆储存早已超越人类,人工智能领域近年开发的强化学习和生成创造等功能,确实是一种突破,但该技术的能力一般不会超出人类所教的范围,而它目前也无法取代人的通识知识和创造力。
“各领域人士都应提供建议,引导这项技术发展方向,包括法律专才、政策决策人及社会科学家等,确保人工智能不会导致进一步的社会偏见。”