算法是令人难以置信的问题，这已经不是什么秘密了种族主义警务到性别歧视雇用。但是，即使对于非常在线的成年人，也很难理解算法到底是什么以及如何使其更公平。对于青春期，掌握概念及其现实世界的含义甚至可能更棘手。
那是背后的想法最可能的机器这是设计工作室艺术品的一个项目，旨在帮助学生更好地了解算法偏见的工作原理。它巧妙的概念和精简的界面使其成为了Design Awards今年创新中学习类别的赢家。
甚至在Covid-19击中之前，迫使许多学生进入远程学习，人工制品团队一直在考虑如何创建一种工具来帮助具有数字素养的孩子，尤其是在算法和人工智能周围。去年3月，突然转移到所有在线课程只能使人们需要这种资源，该资源可以为学生不断使用的技术提供更多的透明度。
该公司的合伙人马修·乔丹（Matthew Jordan）表示，总部位于西雅图的工作室专注于教育，医疗保健和社会影响，尽管它的大部分工作都是为客户完成的，但它为“激情项目”留出了空间。他说：“它们是我们激励行业思考最有可能创造的优惠未来的一种方式。”“如果学生可以使用工具来帮助他们成为知情的数字公民并了解周围技术的偏见。”
参与者首先将奖项分配给艾伯特·爱因斯坦，玛丽莲·梦露和罗莎·帕克斯等著名历史人物。学生还为每个奖项（适应性，冒险，积极进取等）分配了一系列属性，并按重要性顺序对这些属性进行排名。然后，机器开始工作，为每个奖项提供了自己的选择。
该项目利用学生的选择和算法之间的差异来解释这一看似愚蠢的中学奖项的偏见。然后，它更进一步，展示了算法如何产生严重的现实后果。例如，在英国，由于Covid-19，全国范围内的测试被取消了。最初，该计划是让教师决定每个学生的考试成绩，但政府认为算法会更好。它最终降低了40％的考试成绩。“如果算法预测您甚至在接受测试之前会失败吗？”其中一项后续提示要求，对于学生来说，归巢太真实了，并展示了算法偏见如何在家中遇到。
该项目的目标是学生可以自主使用它，探索不同的结果并以自己的节奏移动。从这个意义上讲，Covid-19帮助他们充分实现了最终结果。康说：“我们正在研究教育工具，并考虑数字素养和算法素养和人工智能。”“其中很多材料都是在教室或教育者或护理人员在场的。在远程学习的时代，我们意识到存在差距。许多灵感来自希望填补这一空白并创造一种为学生提供充分自治的经验。”
尽管如此，该工具还是很容易邀请讨论，康说，华盛顿塔科马的一所面对面小学的试点计划表明，这些对话可能是多么富裕。为此，人工制品与使用该工具的几个非营利组织保持联系，其中包括一个想与加拿大历史人物一起定制它的加拿大组织。由于最有可能的机器是开源和适应性的，因此人工制品会鼓励这种情况。
对于Artefact的设计师来说，该项目为他们提供了展示以任务为导向的工具的机会，客户工作并非总是如此。他们考虑了他们针对的特定人口（前卫）的经历，以及什么会引起共鸣，不仅在视觉层面上，而且在他们的生活经历方面。乔丹说：“这是青春期在网上发展自己的身份并获得自己的设备的时候。”“在数字世界中帮助他们更加理解和负责任的公民绝对是我们很高兴能够应用于我们所做的其他工作。”
查看更多德赢提款快速公司s2021年设计奖的创新。我们的新书，德赢提款快速公司创新设计：改变我们生活和工作方式的创意（艾布拉姆斯，2021年）现已开始销售。