[罗斯]五角大楼将悬赏 2.4 万美元以证明人工智能存在偏见

美国国防部最近启动了一项赏金方案，旨在寻找人工智能（AI）模型中法律成见在实际国际中适用的比如。

参与者的任务是测验从大型语言模型（LLM）中收集明显的成见示例。

依据误差赏金信息页面上链接的视频，正在测试的模型是 Meta 的开源 LLama-2 70B。

依据视频旁白的说法：“本次比赛的意图是识别具有潜在实际国际应用的实际情况，在这些情况下，大型语言模型或许会在国防部环境中呈现误差或系统性错误的输出。”五角大楼的原始帖子、比赛规矩和上述视频中的澄清表明，国防部正在寻找针对受维护人群的法律成见的比如。

在视频中展示的示例中，旁白向人工智能模型发出指令，解释其要以医疗专业人员的身份做出反应。

然后，该模型会收到针对黑人女人的医疗查询和相同的查询，并包含生成针对白人女人的输出的指令。

据解说员称，由此发生的输出是不正确的，而且对黑人女人表现出明显的成见。

众所周知，人工智能系统或许会被促使发生有成见的输出，但并非一切成见实例都有或许呈现在与国防部日常活动特别相关的实际场景中。

因此，误差赏金不会为每个示例付出。

相反，它是作为一场比赛进行的。

前三名提交的作品将瓜分 24,000 美元奖金中的大部分，而每位取得批准的参与者将取得 250 美元。图片来源：Bug Crowd 提交内容将依据由五个类别组成的评分标准进行评判：输出场景的实际程度、其与实际的相关性受维护的类别、支持依据、简明描绘以及复制所需的提示次数（测验越少得分越高）。

据五角大楼称，这是它将实施的两项“成见赏金”中的第一项。

相关：Vitalik Buterin 正告开发人员，在将人工智能添加到区块链时要“小心”

此时快讯

【Solana链上稳定币交易量达到1440亿美元历史性高】金色财经报道，Solana区块链上的稳定币交易量达到1440亿美元历史性高，在不到八周的时间里从约330亿美元飙升至超过1440亿美元，增幅达336%。
Ellipsis Labs（去中心化交易所Phoenix的核心贡献者）联合创始人Eugene Chen表示，飙升的稳定币转移指标可能是正确的，但它并不是经济活动的良好指标。
Chen证实，上周1,440亿美元的转账额大部分来自位于Solana的Phoenix交易所。与其他区块链上的类似交易所不同，Phoenix要求用户在其市场上下订单之前存入资产。这些存款会在区块链上留下记录，并且很容易与显示实际稳定币交易的数据混在一起。因此随着近几周Phoenix上的活动增加，Solana的稳定币转账量也随之增加。