女性所带来的更全面的考量维度有助于构建更包容的AI产品。
迪拜商业妇女理事会（DBWC）和科技公司甲骨文Oracle近日启动了sAIdaty计划，为期一年的计划将组织一系列主题培训课程，包括云计算、人工智能基础知识、生成式人工智能、物联网、区块链及其应用等，以此增强参与者对人工智能及其应用范围的理解。该计划旨在培训500名迪拜商业妇女理事会成员，以提高阿联酋女性的人工智能（artificial intelligence，简称AI）技能，进而支持阿联酋的数字经济目标。
甲骨文中东和非洲区域云技术高级副总裁Nick Redshaw表示，阿联酋提出了宏伟的数字经济战略，而“只有在该国所有利益相关方和社区全面参与的情况下，这一愿景才能实现”，目前女性在阿联酋劳动力中占很大比例，因此让女性群体掌握人工智能相关技能非常有必要。在全球任何市场，女性群体都是就业市场上重要的组成部分，也对人工智能的技术推进起着重要作用。
图片来源：edgemiddleeast.com
女性在AI行业严重缺席
英国国家数据科学和人工智能研究所艾伦·图灵研究所（ Alan Turing Institute）去年十月发布了一份人工智能领域融资情况的报告，其中显示，尽管面向人工智能领域的投资与日俱增，但是多数资金都流向了男性主导的人工智能初创公司，2021年到2022年，风险投资家们投资总额的80%都流向了由男性创始人团队领导的人工智能企业。
另外，从金额上看，女性创办的人工智能企业获得的平均融资额为130万英镑，而男性创始人团队获得的平均融资额为860万英镑，因此女性领导的初创企业也面临着更严峻的资金不足的风险。艾伦·图灵研究所研究员Erin Young指出，性别差异的现状在人工智能领域非常严峻，“女性迫切需要在科技和风险投资领域获得平等的机会”。
纵观人工智能行业的所有从业者，男女员工的比例也存在严重失衡。世界经济论坛的数据显示，在人工智能领域，女性员工仅占比22%，其中技术人员的男女比例差距更为悬殊。联合国教科文组织统计发现，全球范围内只有12%的人工智能研究人员是女性，仅有6%的专业软件开发人员是女性。女性在行业中仅占极少数席位。
图片来源：scmagazine.com
去年年末，与美国开放人工智能研究中心（OpenAI）首席执行官被罢免后又官复原职的戏剧性事件同时发生的是，风波之后重新配置的董事会中已经没有女性，此前董事会中的两名女性成员均已经离开OpenAI。科技杂志《连线》（Wired）高级作者Kate Knibbs认为，改组后的董事会性别严重失衡，这说明了“女性在人工智能领域的不稳定地位”。不仅如此，华盛顿大学历史学教授Margaret O’Mara表示，事件背后更深层次的问题在于行业“本来就没有足够的女性参与其中”。
女性在行业中的权威性、代表性以及话语权也远不及男性。咨询公司AKAS去年分析了大数据库Gdelt Project中与人工智能相关的新闻条目，结果发现，在2023年，英语国家有关人工智能的新闻中，男性被引用的频率是女性的3.7倍；在有关科学、技术、融资的新闻报道中，仅有4%的报道以女性为中心；在英国和美国，女性科技新闻编辑分别占科技新闻编辑总数的18%和23%。
行业中的女性员工对性别失衡深有感触。机器学习工程师Yennie Jun直言，“如果你看看人工智能领域的多数初创公司创始人，（你会发现）其中大多是白人男性”，这种性别差异尤其体现在女性掌权角色的缺失，“女性往往被排除在与人工智能技术的建设、开发、使用和部署相关的决策之外”。
图片来源：scmagazine.com
Nihinlola Adeyemi现如今已经成为了软件公司ErrandPay Ltd的首席运营官，但是谈及自己25年在科技行业的从业经历，她也表示行业中的女性非常少，而且多数女性也主要从事销售岗位，“我没有（遇到过）一位女性导师可以帮助我度过这段职业旅程”。
性别偏见导致算法偏差
行业从业者的性别失衡已经对人工智能相关产品输出的信息产生了负面影响。为了衡量人工智能领域中性别偏差的严重程度，彭博社研究团队向文本到图像生成AI模型Stable Diffusions提出需求，要求其创建14种职业对应的人物形象，每个职业输出300张图像，其中有7个职业在美国通常被认为是高薪职业，另有7个职业为低薪职业。结果显示，人工智能模型不仅复刻了现实世界中存在的刻板印象，甚至还放大了其中的性别偏差。
在生成的5000余张图片中，男性形象占据更大比例；在低薪职业人物形象中，女性和深肤色人群所占比例较高；高薪职业（如政治家、律师、法官等）的人物形象多为浅肤色男性；与法官对应的人物形象中，虽然现实情况是美国34%的法官为女性，但是实际生成的图像中仅有3%为女性。显而易见，生成内容中存在的性别偏差可能会影响对这些行业不了解的人群。
彭博社记者 Leonardo Nicoletti（左二）在峰会上谈论人工智能生成内容存在的偏见
图片来源：联合国妇女署/Ryan Brown
随着生活中越来越多工作被交由AI处理，带有偏见的AI工具不仅会形成误导性，而且会造成大量的判断失误。算法正义联盟（Algorithmic Justice League）创始人、计算机科学家Joy Buolamwini发现，在训练某个面部识别算法时，由于输入的大多数数据为男性，因此该算法在检测和诊断男性是否患皮肤癌方面有高达99%的准确率，但是在识别女性是否患皮肤癌方面的准确率远不及识别男性。输出信息存在性别差异这一问题从根本上说，是团队背后的工程师以男性为主，而他们在训练算法时甚至难以意识到性别偏差的存在。
更为严峻的是，这些判断失误会引发社会中方方面面的问题。联合国教科文组织新闻官员ClareO'Hagan称，“AI系统的开发、使用和部署存在着重复和放大现有性别偏见的风险，甚至可能产生新的性别偏见”，究其原因，数据集、编程团队、编程方法缺乏多样性可能导致AI工具存在偏见，进而产生歧视性结果，这些生成的歧视性结果可能被用于制定重大决策，并最终影响公民的日常生活。
具体而言，如果企业在招聘过程中引入了带有性别偏见数据集的人工智能工具，这可能会导致人工智能在筛选时，倾向于挑选男性候选人而筛掉女性候选人，造成男女就业机会的不平等问题。同样，如果在贷款审批中引入了数据库存在性别偏差的人工智能工具，也可能会导致女性借款人面临不公平的待遇。
图片来源：globisinsights.com
为什么女性是不可或缺的关键角色？
虽然如今人工智能行业的各个细分领域都由男性主导，且报道中也多见男性在行业中的出色表现，但按科技媒体Techcrunch高级记者Kyle Wiggers和Dominic-Madori Davis的说法，人工智能并不是由如今活跃的男性科技名人所创立的，“早在这之前，学者、监管机构、伦理学家和行业爱好者就在默默无闻的情况下不知疲倦地工作，为今天拥有的人工智能奠定了基础”。在过去冗长的岁月中，女性对于行业发展的推动功不可没。
Teneo是为企业提供对话式人工智能解决方案的平台，其编辑团队整理了人工智能领域举足轻重的女性人物。其中，世界第一位计算机程序员Ada Lovelace（1815年—1852年）为此后计算机编程的诞生奠定了基础；人工智能研究员Elaine Rich于1983年出版了第一本人工智能教科书《人工智能》；人机交互领域先驱Cynthia Breazeal于2000年创建了机器人Kismet，自此人类与机器人的互动共存成为可能；专注于隐私数据保护的计算机科学家Cynthia Dwork对人工智能时代处理和分析数据的方式产生了深远影响......还有无数位科技女性也曾经或正在推动着行业的发展。
图片来源：digitaldaze.io
虽然在如今的人工智能行业，男性从业者的数量远胜于女性，但实际上，女性从业者才是改变行业现状的关键，女性首要的作用就在于构建更具有包容性的人工智能产品。鉴于女性本身在社会中并不处于强势的地位，市场上的产品设计更多地考虑男性使用需求等因素，因此女性更能站在另一个角度理解问题。英国国家科学、技术与艺术基金会（NESTA）分析发现，在从事人工智能工作方面，女性比男性更有可能考虑到社会、伦理和政治的影响。这些方向是目前人工智能产品开发中经常缺失的关键视角，因此女性所带来的更全面的考量维度有助于构建更包容的产品。
从更通俗易懂的角度考虑，一个人工智能产品的落地包含产品初期的定义与设计、数据收集与训练、模型搭建等多个流程，产品中存在的性别偏差也并非是由某个流程产生，而是每个流程中存在的微小性别偏差的集合。因此网络安全公司MITRE人工智能与自主性创新中心研究人员Christina Liaghati博士表示，“如果房间里有更多元化的团队开发产品解决方案，你就会得到更好的产品解决方案。”
其次，女性的加入也能帮助人工智能企业变得更为多元化。计算机科学家Mary-Anne Williams称，人工智能领域的性别多样性至关重要，因为“多元化的团队可以更好地识别和解决偏见问题，从而实现更公平的人工智能系统”。从另一个层面看，领导层面的多元化也“可以促使企业做出更好的决策、激发更大的创造力和获得更好的财务业绩”，投资机构Dream Big Ventures创始人Staci LaToison如是表示。
图片来源：medium.com
当然，女性所具有的细腻情感也是行业发展不可或缺的。Soula是为女性提供孕期、生产及产后阶段服务的应用程序，应用程序内置的聊天机器人通过聊天了解女性的状态，产品创始人Natallia Miranchuk坦言，目前多数人工智能产品在语调和情感方面仍然不够拟人，并且缺乏共情能力，“这就是为什么我相信在人工智能领域，女性将会非常强大的原因，这是男性无法做到的，因为他们没有对强烈情感和与他人联系方面的敏感度，而我们女性则在这方面更有能力”。
女性在人工智能行业有得天独厚的优势，目前男性开发的人工智能产品也仍有很大改进空间。虽然推动行业性别平等是助力行业迈上新台阶的关键，但是在讨论行业性别平等之前，有一点需要明确：人工智能输出的信息背后存在着无数的人工智能专家、机构和企业。正如机器学习和数据科学平台Hugging Face的研究科学家Sasha Luccioni所指出的，“人工智能存在的偏见并非凭空产生，而是源自社会中一直存在并延续的模式。”在解决行业问题之前，深入反思并改进已知的社会问题也许更有可能成为推动行业变革的“强心剂”。
