他山之石｜重新思考人工智能时代的信息素养

[胖胖老师]()

本文选译自Dr. John Spencer最新博客“Rethinking Information Literacy in an Age of AI”，部分呢内容有所调整。

“改变游戏规则”和“颠覆性”等词汇在技术领域中已不再新鲜。教育工作者们已经目睹了1：1设备、无纸化教室、交互式白板等教育新潮流的兴起。然而，人工智能的崛起为我们带来了截然不同的感受。我们所处的时代，尤其是生成式人工智能和更广泛的机器学习领域，似乎正在迅速重塑我们的世界。尽管对于教育工作者而言，这带来了许多积极的趋势，但我们也不得不警惕人工智能如何改变信息格局，特别是在深度伪造领域。

聊天机器人的兴起

Microsoft于2014年在中国推出的人工智能机器人小冰，表现卓越。在逾四千万次的对话中，用户普遍表示感觉如同与真人交流。创始人比尔·盖茨亦对其赞誉有加，称其吸引了四千五百万粉丝，擅长多任务处理，并能在感知用户情绪方面发挥出色作用，甚至有助于解决人际关系问题。小冰不仅出版了诗歌作品，还录制了音乐专辑，担任过电视节目主持，并为儿童创作了有声读物。她的成就令人瞩目，以至于人们有时会忘记，她其实仅是一组复杂的算法。这被认为是ELIZA效应的体现，也显示了人工智能聊天机器人人性化的一种尝试。

然而，2016年，当Microsoft试图在美国复制小冰的成功，将Tay引入市场时，却遭遇了挫折。Tay原本被设计为未来的虚拟助手，兼具影响者、帮助者、内容创作者和顾问等多重角色。然而，仅仅数小时后，Tay开始在Twitter上发布性别歧视和种族主义言论，并热衷于散布阴谋论和参与拖钓行为。原因在于，随着许多用户向Tay发送具有攻击性的内容，人工智能开始模仿这些种族主义和性别歧视的言论。当Tay试图“学习”如何与社区互动时，它接触到了那些故意向其发送此类内容的用户群体的习俗和规范。当Microsoft最终决定关闭Tay时，该机器人已经开始宣传纳粹意识形态。

尽管Tay的例子可能较为极端，但深度学习机器始终会包含某种偏见。因为并不存在所谓的“中立”人工智能，它们从更广泛的文化中汲取数据，并从庞大的数据集中“学习”社会规范和价值观。即使生成式人工智能经常能生成准确的内容，我们也可能会忽略其中嵌入的微妙偏见和错误信息。以ChatGPT为例，尽管其偏见可能不如Tay那么明显，但其影响依然强大。

当人们与人工智能机器人互动时，他们可能更倾向于认为所提供的信息是公正和客观的。已有观点指出，“我把ChatGPT当作搜索引擎”或“人工智能几乎可以教你任何东西”。这种假设认为人工智能本质上是公正和准确的，但这是一个充满风险的认识。

在未来十年中，人工智能将从根本上改变媒体格局。我们的学生将生活在一个由生成式人工智能创建即时内容的世界中，他们需要在充满深度伪造和错误信息的环境中导航。这并不是一个新现象，因为几十年来，人工智能一直在逐步改变信息格局。在深入探讨深度伪造之前，我们需要先理解人工智能如何改变了我们与媒体的互动方式，因为这对于我们理解生成式人工智能将如何影响信息素养至关重要。我们必须认识到，人工智能的早期形态已经塑造了我们当前的信息环境。

如果我们不理解现在，我们就无法理解未来

过滤气泡的兴起

过滤气泡和回音室在一定程度上通过点击和“喜欢”来工作。但这些通常是使用人工智能机器人操纵的。通常，机器人使用简单的算法或脚本来对某些想法产生信号提升，或攻击不同群体或意识形态的成员。但是对于生成式人工智能，人们对这种新型机器人的类似人类的质量存在非常真实的担忧。当 Tay 发表纳粹言论时，Microsoft让她闭嘴，但当人们设计机器人来强调极权主义言论或宣扬种族主义意识形态时会发生什么？

在2000年代初，社交媒体平台的兴起促使计算机科学家开发出以相关性为核心的算法。这一创新使得用户能够首次体验到完全个性化的媒体内容，这些内容紧密贴合他们的思想、信仰、价值观和偏好。同时，新媒体技术如播客和博客的涌现，推动了媒体生态从广播模式向窄播模式的转变。

随着媒体民主化进程的加速，创作、编辑和发布个人作品变得前所未有的便捷。那些曾被视为边缘的声音，如今在网络空间找到了发声之地，通过博客等平台分享他们的见解。

在信息爆炸的时代背景下，算法的重要性日益凸显。它们在缺乏传统媒体看门人的情况下，通过判断信息的相关性来为用户筛选和推荐内容，从而扮演着看门人的角色。在过去的二十年里，算法和地理因素共同塑造了孩子们的世界观，这在互联网时代为学习带来了前所未有的机遇。然而，相关性算法也带来了过滤气泡和回音室的问题。

过滤气泡和回音室在一定程度上是通过用户的点击和“喜欢”行为形成的。然而，这些行为往往受到人工智能机器人的影响。这些机器人利用简单的算法或脚本来推广某些观点，甚至攻击不同群体或意识形态的成员。对于生成式人工智能，人们对其新型机器人所展现出的类似人类的特质表示担忧。例如，当Tay发表纳粹言论时，Microsoft选择让其停止发言。然而，当设计机器人来强化极权主义言论或宣扬种族主义意识形态时，情况将变得复杂。这需要我们深入思考如何监管和引导这些技术的发展，以确保它们不会对社会造成负面影响。

深度伪造的兴起

通过利用生成式人工智能，机器人现已能够模拟真实用户的交流风格，这引发了公众对于误导性信息和深度伪造技术的深切忧虑。不难预见，众多生成式人工智能机器人可能会通过创作具有可信度的文本或采取旨在影响更广泛人群的对话策略，来操控公众舆论。

人们的信仰体系在很大程度上是通过相互交流形成的，特别是对我们的学生而言，他们常常在努力理解周围的世界。随着生成式人工智能的出现，这些机器人不再仅仅是点赞或转发信息，它们能够以表现各种情感的语气进行完整的对话，从正式权威到平易近人。因此，我们已经观察到在基于文本的机器人中出现了对人类语音的模拟。然而，随着视频和音频中深度伪造技术的兴起，还存在另一个重要因素。

“深度伪造”这一术语结合了“深度学习”和“伪造”两个概念。本质上，它指的是通过人工智能生成并经过篡改的视频或音频片段，使其看起来像是某人说了他们从未说过的话。

在个人层面，人们非常担忧深度伪造可能导致的欺诈行为。例如，在我和亚历克·库罗斯（Alec Couros）共同主持的播客节目中，他描述了深度伪造如何被用来陷害被指控发送不当短信的青少年。这些孩子因此感到恐慌，而欺诈者则通过敲诈勒索获利。另一个例子可能是一位老祖母接到一个声称其孙辈被绑架的假电话，随后骗子利用这一情境骗取巨额资金。

在社会层面，深度伪造对民主制度构成了严重威胁，因为人们分享与时事相关的篡改视频和音频片段。我们已经看到来自不同政治派别的深度伪造视频错误地操控政治家演讲的例子。在某些情况下，权威领导人可能会利用深度伪造技术来操纵其政治对手或抗议者的视频。

随着深度伪造技术变得越来越逼真，这种情况只会加速。正如库罗斯所指出的：“在未来，将会有更加强大的工具。因此，你将拥有发言权、风格和视频。在欺诈行为方面，你已经拥有了愚弄人们所需的一切——无论是在个人层面还是在政治层面。”

那么，我们应该如何应对这一挑战呢？如何帮助我们的学生在虚假信息和深度伪造的世界中辨别真实与虚假？如何保护他们免受生成式人工智能欺诈行为的影响？当他们身陷回音室效应时，如何引导他们接触新的想法和观点？在错误信息泛滥的世界里，他们如何发现真相？

传统的信息素养方法已经不足以应对这些挑战。我们需要探索新的方法和策略来应对这一日益严重的问题。

解决方案#1：进行横向阅读

多年来，学生在研究过程中一直依赖信息素养技术，如CRAAP测试。然而，华盛顿州立大学温哥华分校的混合和网络学习主任迈克·考菲尔德（Mike Caulfield）在2017年提出了一种新的方法，即“横向阅读”。

为了实践横向阅读，学生首先需要评估原始信息来源的可靠性。这包括对作者或出版商的背景、资质和相关记录进行调查，以确保他们是值得信赖的信息提供者。此外，还需审查首次发布该信息的媒体或网站，以确认其权威性。

接下来，学生需要寻找其他观点和信息来源，以便对原始信息进行对比和评估。这可能包括阅读来自不同新闻机构的文章或利用事实核查网站来验证原始信息的准确性和可靠性。

在此过程中，学生还应考虑信息的可信度，包括作者的动机、信息的可靠性以及背后更广泛的社会和政治背景。通过横向阅读，学生可以对复杂问题有更深入的理解，并避免被误导性信息所误导。

作为CRAAP测试的替代方案，考菲尔德开发了SIFT方法。SIFT是一个首字母缩写词，代表Stop（停止）、Investigate（调查）、Find better coverage（寻找更好的报道）和Track statements（追踪声明）。其具体步骤如下：

1. 在接触信息之前，先停下来评估自己的情感反应，并思考分享这些信息的人或组织的动机。
2. 调查信息来源，评估其可信度，包括作者、出版商和网站，查找可能的偏见、利益冲突以及专业知识。
3. 寻找可信赖的报道，通过多个来源验证信息的准确性，包括可靠的新闻来源和事实核查网站。
4. 将声明、引文和媒体追溯到原始上下文，检查是否有虚假陈述或误导性信息。

通过遵循SIFT方法，读者可以形成对网上信息的批判性理解，并做出明智的可信度和准确性判断。这在正式的研究项目中尤其有效。然而，学生并不总是通过正式渠道获取信息。

信息素养专家詹妮弗·拉加德（Jennifer LaGard）指出，横向阅读忽视了阅读的情感方面。人们经常因为内容的情感吸引力而购买虚假信息或深度伪造内容。此外，横向阅读假设学生在进行在线研究时会使用笔记本电脑进行媒体素养训练，但这并不符合学生实际消费媒体的方式。学生们通常在社交媒体上滚动浏览，快速阅读文章，查看模因，观看视频，并在智能手机上进行快速对话。换句话说，横向阅读并不适合我们在智能手机上处理数字信息的典型方式。拉加德强调，大多数学生以快速、非正式的媒体消费模式在移动设备上观看内容，而不是使用首字母缩略词或清单。因此，我们需要将信息素养视为一种习惯和思维方式，而不仅仅是一个过程。

解决方案#2：教学生成为数字侦探

信息素养的未来不仅仅依赖于一套技能的掌握，更需将其培育为一种持续的心态和习惯。詹妮弗·拉加德和达伦·哈金斯通过数字侦探的比喻，形象地描绘了这种心态的重要性。他们提出了四个关键镜头，以助学生深入理解信息素养的各个方面。

首先，是“触发镜头”，数字侦探借此理解信息如何引发情绪反应。其次，“通道镜头”使数字侦探能够洞察平台和设备如何鉴别信息的可靠性，例如新闻报道在不同设备上的呈现差异，以及社区对信息解释的影响。再次，“取证镜头”聚焦于学生从好奇的角度深入探究信息的行为。最后，“动机镜头”要求学生思考信息发布者的意图，探究人们操纵信息的可能原因。

拉加德和哈金斯强调，信息素养的培养不应仅限于技能的提升，而应结合更广泛的自我意识、自我管理、社会意识、人际交往能力和负责任的决策等SEL能力。这样的综合培养有助于学生在复杂的信息环境中做出明智的决策。

数字侦探方法还认识到非正式信息素养与正式信息素养之间的区别。学生在不同的场合和目的下，需要灵活运用不同的信息素养方法。如果只将信息素养局限于对自媒体帖子等内容的学术研究，那么学生将无法适应人工智能时代对非正式信息素养的需求。因此，我们必须鼓励学生培养全面的信息素养，以适应不断变化的信息环境。

解决方案 3：寻找图书馆员

在过去的三十载中，媒体格局持续演变，其未来的发展路径更是充满未知与变数。最新的人工智能技术，尤其在深度伪造、鲶鱼现象及错误信息传播方面，对我们构成了前所未有的挑战。我们不能单纯依赖CRAAP测试等传统工具，亦无法预设学生在消费内容时总会运用如横向阅读法等学术方法。因此，信息素养的提升，不仅应作为一种技能来培养，更应内化为一种日常习惯，融入批判性思维和自我适应的能力中。面对不断变迁的环境，我们需灵活调整应对策略。

图书馆员在当今时代扮演着愈发重要的角色。我们不能再仅依赖单一的模式或流程来推进信息与媒体素养教育。学生需要以一种更为动态和人性化的方式来学习这些技能。学校应充分利用图书馆员的专业知识，助力学生培养新型信息素养，使之成为他们的一种思维方式，而不仅仅是一项技能。

展望未来，图书馆员可以跨课程合作，教授学生如何参与提示工程，以提出更有深度的问题，并提升对所见结果的分析能力。为此，我创立了FACTS Cycle，作为一种提示工程流程，供学生在与聊天机器人互动时参考。该流程旨在引导学生放慢与聊天机器人的互动节奏，提高他们在制作提示时的自我意识，并在审视潜在偏见和错误信息时保持敏锐的洞察力。图书馆员亦可推荐经过良好数据培训的工具，如倾向于同行评审期刊而非参与人工智能“幻觉”的工具，以确保学生在信息获取过程中不受误导。

解决方案4：回顾过去，展望未来

我近期阅读到的内容描绘了一个深受深度伪造和错误信息困扰的未来时代。在这个时代，随着媒体逐渐民主化，人们开始使用匿名和假名来误导公众并争取支持。他们甚至有能力将虚假言论植入到政治人物的口中。媒体的民主化也导致了舆论的极端化和报纸评论区中充满愤怒的声音。

然而，这种情况并非遥不可及的未来。实际上，这正是美国革命时期的真实写照。在研究塞缪尔·亚当斯的传记时，我深入探索了相关的历史专著、学位论文和期刊文章。

我的主要发现是，我们曾经历过类似的时期。在那个时代，报纸经常登载政客捏造的名言和信件，夸大目击者的证词。作者使用匿名和假名，而许多报纸为了利润而煽动公众的愤怒。在更个人的层面上，人们通过信件进行秘密交流，形成了独特的交流方式。

面对这种复杂的环境，一个有效的解决方法是开展公开对话，讨论他们所接触的媒体来源。这种对话通常涉及多个观点，形成了一种类似于酒吧谈话的辩论氛围。作为教师，虽然这种环境可能看起来不像传统的教室，但它更像是一个苏格拉底式的研讨会。

此外，学生们也扮演了公民记者的角色。我之前已经阐述过为什么新闻业可能是未来的一个重要领域。当学生们参与新闻工作时，他们学会了像拉加德和哈金斯所描述的“数字侦探”那样的新闻思维方式。

同时，他们也需要理解媒体是如何构建的。这就像通过踢足球来学习足球，或通过创造艺术来欣赏艺术一样。通过鼓励学生参与新闻工作，他们能够以更道德的方式创建信息，从而深入了解信息素养的工作原理。

综上所述，回顾过去对于理解信息素养的未来至关重要。尽管我们所面临的技术是全新的，但我们曾经也有过类似的经历。因此，通过回顾历史，我们可以更好地应对当前的挑战。

最后的思考

最后，鉴于媒体格局的演变难以预测，我们的学生必将面临一个充斥着误导性信息的世界。他们所面临的挑战无疑是巨大的，且这些挑战是真实存在的，亦不会随时间消失。然而，身为教育工作者，我们有责任引导学生提升信息素养，使其成为信息的明智消费者，进而在这个日新月异的环境中发挥积极作用。