社交媒体是传播假新闻和虚假信息的主要渠道。随着照片和视频编辑以及人工智能工具的最新进展，这种情况变得更糟，这使得篡改视听文件变得很容易，例如所谓的 deepfakes，它结合和叠加图像、音频和视频剪辑以创建蒙太奇看起来像真实的镜头。
来自加泰罗尼亚奥伯塔大学 (UOC) 互联网跨学科研究所 (IN3) 的开放网络 (KISON) 和通信网络与社会变革 (CNSC) 小组的研究人员启动了一个新项目，以开发创新技术，使用人工智能和数据隐藏技术，应帮助用户自动区分原始和掺假多媒体内容，从而有助于最大限度地减少假新闻的转发。DISSIMILAR 是由 UOC 牵头的一项国际倡议，包括来自华沙理工大学(波兰)和冈山大学()的研究人员。
“该项目有两个目标：首先，为内容创建者提供工具来为他们的创作添加水印，从而使任何修改都易于检测;其次，为社交媒体用户提供基于最新一代信号处理和机器学习方法的工具来检测假冒数字内容，”KISON 首席研究员兼 IN3 主任 David Megías 教授解释说。此外，DISSIMILAR 旨在将“文化维度和最终用户的观点贯穿整个项目”，从工具的设计到不同阶段的可用性研究。
偏见的危险
目前，检测假新闻的工具基本上有两种。首先，有基于机器学习的自动模型，其中(目前)只有少数原型存在。其次，还有人工参与的假新闻检测平台，如 Facebook 和 Twitter，需要人们参与来确定特定内容的真假。根据 David Megías 的说法，这种集中式解决方案可能会受到“不同偏见”的影响并鼓励审查。“我们认为，基于技术工具的客观评估可能是更好的选择，前提是用户在预先评估的基础上决定他们是否可以信任某些内容，”他解释说。
对于 Megías 来说，没有“单一的灵丹妙药”可以检测假新闻：相反，检测需要结合不同的工具来进行。“这就是为什么我们选择探索信息的隐藏(水印)、数字内容取证分析技术(在很大程度上基于信号处理)以及不言而喻的机器学习，”他指出。
自动验证多媒体文件
数字水印包括数据隐藏领域的一系列技术，这些技术将不可察觉的信息嵌入到原始文件中，以便能够“轻松自动地”验证多媒体文件。“它可以用来表明一个内容的合法性，例如，确认一个视频或照片是由官方通讯社发布的，也可以作为一个认证标志，在修改的情况下会被删除。内容，或追踪数据的来源。换句话说，它可以判断信息的来源(例如 Twitter 帐户)是否正在传播虚假内容，“Megías 解释说。
数字内容取证分析技术
该项目将水印的开发与数字内容取证分析技术的应用相结合。目标是利用信号处理技术来检测在创建或修改任何视听文件时使用的设备和程序产生的内在失真。这些过程会引起一系列变化，例如传感器噪声或光学失真，这些变化可以通过机器学习模型来检测。“我们的想法是，与使用单一解决方案相比，所有这些工具的组合可以改善结果，”Megías 说。
对加泰罗尼亚、波兰和用户的研究
DISSIMILAR 的关键特征之一是它的“整体”方法以及它收集“关于假新闻的认知和文化成分”。考虑到这一点，将进行不同的以用户为中心的研究，分为不同的阶段。“首先，我们想了解用户如何与新闻互动，他们对什么感兴趣，他们使用什么媒体，取决于他们的兴趣，他们使用什么作为将某些内容识别为假新闻的基础，以及他们准备做什么检查其真实性。如果我们能够识别这些东西，它将使我们设计的技术工具更容易帮助防止假新闻的传播，”Megías 解释说。
这些看法将在不同的地方和文化背景下，在加泰罗尼亚、波兰和的用户群体研究中进行衡量，以便在设计解决方案时纳入他们的特质。“这很重要，因为例如，每个国家的政府和/或公共当局的可信度或高或低。这会影响新闻的跟踪方式和对假新闻的支持：如果我不相信这个词当局，我为什么要关注来自这些来源的新闻?这可以在 危机期间看到：在对公共当局信任度较低的国家，对建议和规则的尊重程度较低关于大流行和疫苗接种的处理，”CNSC 研究员 Andrea Rosales 说。
易于使用和理解的产品
在第二阶段，用户将参与设计该工具，以“确保产品广受欢迎、易于使用和易于理解，”Andrea Rosales 说。“我们希望他们在整个过程中与我们一起参与，直到最终原型生产出来，因为这将帮助我们更好地响应他们的需求和优先事项，并完成其他解决方案无法做到的事情，”大卫·梅吉亚斯补充道。
这种用户接受度将来可能会成为导致社交网络平台包含该项目中开发的解决方案的一个因素。“如果我们的实验取得成果，如果他们整合这些技术会很棒。目前，我们会很高兴有一个工作原型和概念证明，可以鼓励社交媒体平台在未来包含这些技术， ”大卫·梅吉亚斯总结道。