该徽标就像算法的“有机”贴纸

对于水果和蔬菜，有有机的。对于咖啡和衣服，有公平的交易。现在，算法有自己的认证标记：批准印章，将其指定为准确，公正和公平。

印章是Cathy O’Neil的创意，统计学家和作家广泛书写关于偏见算法如何加剧社会的不平等。她的写作 - 都在她的博客上数学宝贝和她有影响力的2016年书数学破坏武器 -关于招聘，保险，刑事司法和信贷领域算法方式的对话，已经成为一场试金石，可能会对人们的生活产生负面影响。在选举之前，奥尼尔（O’Neil）成立了自己的公司O’Neil风险咨询和算法审计，或Orcaa，目的是帮助组织，包括租赁初创公司出租，依靠算法来确保他们不会意外伤害人们。

她解释说：“人们并没有真正检查事情是否有效。”“他们甚至都不知道如何问这个问题。”

奥尼尔（O’Neil）的新冒险解决了使用针对某些指标优化其他指标的算法固有的问题。例如，Facebook优化参与，以最大程度地利用利润，而不是事实或民事话语。当然，只有关心公平性和准确性的公司才会接受审计，这意味着算法不公正现象最糟糕的肇事者可能永远不会同意O'Neil查看其代码。但是逆戟鲸为公司和组织提供了做关心旨在确保其算法不在的服务不准确，歧视性，或无意（或不）违反民权法。

该公司凭借其审核，授予视觉密封件，旨在向用户发出信号，表明公司是值得信赖的，并且在基本层面上，其产品首先使用算法。印章是一个视觉标志，将审计转化为品牌和营销价值，迈出了一个迈向一个公司自豪地表现出对诚实算法的奉献精神的世界。

To test a particular algorithm, O’Neil creates what she calls an “ethical matrix”: a complete list of the company’s concerns, like profit, efficiency, and data quality, as well as the concerns of anyone who the algorithm could impact, whether that’s people of different races, genders, and abilities. Then, she methodologically tests the algorithm for each concern and color-codes the matrix: Green means all good, yellow means there could be a problem, and red means that harm is being done in some capacity. Once she’s had a conversation with the company’s leaders about the ethical matrix and where they stand, O’Neil works with the company’s coders and data scientists to adjust its algorithms in such a way that removes the red boxes from the matrix. The length of time it takes to certify an algorithm depends on how many people it impacts; one recent client took four months. O’Neil says she charges reasonable hourly consulting rates, with a separate cost for the stamp of approval.

尽管她公司的症结是实际的审计过程，但认证本身同样重要。奥尼尔（O’Neil）为通过审计的组织提供了证书和批准印章，以便在其网站上投入。印章是关于公司价值及其品牌的声明。

到目前为止，Orcaa已认证出租还有另一家公司，有十几个左右的感兴趣。目前，奥尼尔（O’Neil）正在与一家律师事务所合作，分析假释听证会如何使用累犯算法，并帮助Seimens建立内部审计系统。Orcaa的批准印章已成为RentLogic的真正货币价值，该货币价值从投资者那里获得了资金，部分原因是VC对这家初创公司获得认证的倡议给人留下了深刻的印象，因为有线报告。

O'Neil说：“如果[认证]值得信赖，我的认可印章将完全按照其本应做的事情做，这是从部署算法的人转移到算法中拥有股份的人的信任。”“他们会相信它已经被检查，得到了审判，他们的担忧与建立它的人们的担忧保持了平衡。”

印章也具有价值，因为它是一种可识别的格式：我们习惯于看到已通过环境友好和安全认证的食品和产品。

“无论好坏，人们都习惯了，例如有机认证，”创建Orcaa徽标和密封的设计师Katie Falkenberg说。“从设计的角度来看，占用的房地产要比17页的文字少得多，解释了这意味着什么。”

仅这些系统不会引起信任。福尔肯贝格指出，尽管有无处不在，但“有机”是一个加载的术语，有很多有点任意要求和负面影响，例如农民倒闭。甚至奥尼尔（O'Neil）也指出了认证方式并非总是如此的另一个例子：毕竟，以“ AAA”评级赋予了风险，钝性抵押支持的证券有助于导致2008年的金融危机。她计划使自己的批准印章完全透明和开源，并在她的网站上进行了广泛的撰写，详细介绍了它的含义和过程。

目前，密封是一种简单的环设计，带有Orcaa的杀手鲸徽标和文字，上面写着“算法，以确保准确性，偏见和公平性”，日期为日期。Falkenberg希望有一天会更新它，以便从上传到公司网站的日期开始。由于算法在不断变化，因此Falkenberg希望印章让用户知道何时获得算法。奥尼尔说，应定期审核算法 - 也许每两年左右一次，具体取决于代码的复杂性。Falkenberg还希望将密封件与O'Neil的网站联系起来，以便用户可以确切地了解其看到它的含义。

除了让公司有机会向用户证明他们认真对待算法公平性，印章还具有教育成分。福尔肯伯格说：“它标志着人们说的话，‘哦，我没有意识到他们正在使用算法，我想我应该考虑其他网站可能正在使用算法。'她想象有一天能够安装浏览器扩展程序，以阻止所有没有算法审核的网站。

O’Neil hopes the ethical matrix and the seal are a way to bring problems of bias and fairness to companies’ attention and start a conversation that the wider public can participate in. However, she’s clear that widespread algorithmic fairness is still a long way away. Her current clients have come to her because they want to engender trust with users–they’re already aware of how algorithms can harm users. These aren’t the companies building truly nefarious software. She doesn’t expect those organizations to allow her to audit their tech unless these kinds of audits are required by law.

她说：“我没有开始这项业务，只处理非常好的算法。”“我最终想确定真正可怕的破坏性算法，说，这还不够好，我们应该得到比这更好的。”