정보 간섭

: 온라인상 유해 콘텐츠에 대한 회복력을 기르는 일련의 접근 방식으로, 행동 과학 연구에 기반하며 디지털 실험을 통해 유효성이 검증되었습니다.

정확성 질문 메시지

사용자의 관심을 콘텐츠의 정확성으로 전환하기

정확성 질문 메시지(Accuracy Prompt)는 사용자에게 간단한 콘텐츠의 진실 여부를 판단해 볼 것을 요구함으로써, 정확한 정보를 공유하는 것이 중요하다는 점을 상기시키는 역할을 합니다.

가설

사용자가 잘못된 정보와 상호작용하려고 할 때 해당 콘텐츠의 정확성 여부를 생각해 보도록 일깨우면, 사용자가 기존에 갖고 있던 정확성에 대한 의지가 더욱 강화될 수 있습니다.

작동 방식

1

1. 사용자가 소셜 피드를 스크롤하다가 잘못된 정보가 포함된 콘텐츠를 보게 됩니다.
2

2. 정확성 질문 메시지가 트리거되어 콘텐츠 위에 표시됩니다.
3

3. 이 알림이 표시된 이유에 관한 간단한 설명이 사용자에게 제공되며 정보 문해력 팁을 통해 사용자의 관심이 콘텐츠의 정확성으로 옮겨가게 됩니다.
4

4. 이제 이 사용자는 콘텐츠의 정확성에 좀 더 관심을 갖게 되며 피드에서 비슷한 콘텐츠를 접하면 한 번 더 생각하게 될 것입니다.

발견 항목

50%
정확성 메시지를 받은 사용자는 그렇지 않은 사용자에 비해 콘텐츠를 공유할 때 50% 더 분별력 있는 모습을 보여주었습니다. (출처: Jigsaw)
11%
YouTube 프리롤 동영상에 노출된 후 3주가 지난 시점에 사용자의 신뢰도가 최대 11% 증가했습니다. (출처: Jigsaw)

예

Jigsaw에서는 MIT 및 리자이나 대학교와 손을 잡고 일련의 실험을 진행했습니다. 이 실험은 정확성 질문 메시지가 여러 문화에서 효과를 발휘하는가, 잘못된 정보의 공유를 줄일 수 있는가, 온라인에서 정확한 정보의 공유를 늘릴 수 있는가, 사용자가 우수한 품질의 정보를 자신감 있게 탐색하도록 독려할 수 있는가 등을 테스트하기 위해 진행되었습니다.

온라인 설문조사 실험은 16개 국가에서 3만 명 이상의 참여자를 대상으로 진행되었으며, 참여자는 진짜 뉴스 헤드라인과 가짜 뉴스 헤드라인을 공유하고자 하는 의향이 어느 정도인지 점수를 매겨달라는 요청을 받았습니다.

사용자에게 계속 인터넷을 탐색하기 전에 방금 본 뉴스 헤드라인이 정확한지 생각해 보라고 요청하는 초기 프로토타입 정확성 질문 메시지입니다.

파트너

리소스

리디렉션 방법

온라인상 급진화 시도 방해하기

리디렉션 방법은 폭력적인 극단주의 그룹의 모집 활동에 취약한 사용자를 대상으로 합니다. 파일럿 프로그램에서는 광고를 사용해 극단주의와 관련된 정보를 찾는 사용자를 ISIS의 조직원 모집 메시지에 반박할 목적으로 선별된 콘텐츠로 유도했습니다.

가설

급진화가 진행되는 과정에서 극단주의 사상에 관해 찾아보던 사람이 오히려 이를 반박하는 메시지를 받아들여 마음을 바꿀 수 있습니다.

작동 방식

1

1. 사용자는 극단주의 그룹의 선전에 흥미를 갖고 있음을 보여주는 키워드를 사용하여 온라인 검색을 완료합니다.
2

2. 리디렉션 방법이 시작되어 간섭이 필요한 키워드를 탐지합니다.
3

3. 해당 사용자가 흥미를 갖고 있는 주제에 관한 정보를 담은 광고가 제공됩니다.
4

4. 사용자가 광고를 클릭하면 극단주의 그룹의 잘못된 메시지를 반박하는 콘텐츠로 리디렉션됩니다.

발견 항목

320,000
8주 동안 진행된 파일럿 프로그램에서 접근한 사용자 수 (출처: Jigsaw 및 Moonshot)
500,000
사용자에게 제공된 ISIS 반대 동영상의 길이(단위: 분) (출처: Jigsaw 및 Moonshot)

예

Jigsaw와 Moonshot은 리디렉션 방법에서 사용되는 오픈소스 방법론을 개발했습니다. 이는 ISIS에서 탈출한 사람들에게 ISIS의 급진적인 사상을 받아들일 때 인터넷이 어떠한 역할을 했는지에 관해 인터뷰하면서 도출된 방법입니다. 인터뷰를 통해 얻은 정보를 활용해 파일럿 프로그램이 설계되었습니다. 즉, 애드워즈를 통해 급진주의자가 될 위험에 처한 사람들에게 접근하고, ISIS의 유혹을 떨치는 데 도움이 될 콘텐츠를 제공하는 것입니다.
이 콘텐츠는 전 세계 사용자가 온라인상 급진화 시도에 대응하기 위해 업로드한 것으로, 관련 전문가의 선별을 거쳤습니다.

이 방법은 ISIS에서 먹잇감으로 삼고 있는 대상층 중에서도 ISIS가 보내는 메시지에 가장 취약한 사람들에게 초점을 맞춥니다. 또한 ISIS의 메시지를 맞받아치기 위해 만들어진 콘텐츠가 아니더라도 효과적으로 선별, 조직, 타겟팅된다면 유해한 메시지의 효과를 줄일 수 있다는 점을 반영하고 있습니다. Moonshot에서는 2016년부터 Facebook을 비롯한 다양한 IT 기업들과 손잡고 백인우월주의, 폭력적인 여성 혐오, 음모론 등 온라인상에 존재하는 다른 유해한 사상에 흥미를 보이는 사용자에게 광고를 배포하고 있습니다.

Moonshot에서 리디렉션 방법을 사용하여 사용자를 좀 더 안전한 콘텐츠로 리디렉션하는 모습을 보여주는 캠페인 흐름입니다. 이 경우 백인우월주의 운동을 근절하기 위한 서비스로 리디렉션되었습니다.

파트너

리소스

작성 중 피드백

더욱 건설적인 대화 나누기

작성 중 피드백(Authorship Feedback)은 악의적인 언어를 감지하기 위해 인공지능을 사용하는 도구인 Perspective API를 활용합니다. 이를 통해 공격적인 댓글이라고 받아들여질 가능성이 있는 경우 이를 작성하고 있는 사용자에게 실시간으로 피드백이 제공됩니다.

가설

사용자에게 잠깐 멈춰 다시 생각해 보고, 자신의 댓글을 다른 방식으로 표현할 방법을 고려할 기회를 제공하면 온라인에서 더욱 건설적인 대화를 나눌 수 있을 것입니다.

작동 방식

1

1. 어떤 사용자가 '악의적'이라고 판단되는 댓글을 작성합니다. 이는 무례하거나, 상대방을 존중하지 않거나, 합리적이지 않은 댓글로, 이러한 댓글로 인해 다른 사람이 대화를 중단할 가능성이 높습니다.
2

2. Perspective API가 악성 언어를 식별하는 머신러닝 모델을 사용해 '악의가 있는' 댓글을 감지합니다.
3

3. 작성 중 피드백 메시지가 표시됩니다. 댓글을 작성한 사용자에게 댓글이 위험/공격적이거나 게시자의 커뮤니티 가이드라인을 위반한다는 사실을 알리는 알림이 표시됩니다.
4

4. 사용자에게 댓글을 게시하기 전에 표현을 순화할 기회가 제공됩니다.

발견 항목

34%
Perspective API에 기반한 피드백을 받고 자신의 댓글을 수정한 사용자 비율 (출처: Jigsaw).

예

Jigsaw는 여러 웹사이트와 손잡고 댓글 게시 시스템에 직접 통합된 기능을 개발했습니다. 사용자가 댓글을 입력하면 댓글이 게시되기 전에 Perspective API에 의해 텍스트가 평가됩니다.

해당 댓글에서 Perspective API에 의해 측정된 악의적 언어가 정해진 기준을 초과하는 경우, 사용자에게 알림이 표시되며 댓글을 고쳐 쓴 다음 다시 제출할 기회가 제공됩니다. 수정 비율과 전반적인 효과를 판단하기 위한 댓글을 대상으로 한 사후 분석도 진행했습니다.

OpenWeb에서 지원하는 웹사이트 중 하나에 게시된 악의적 댓글 아래에 빨간색의 작성 중 피드백 메시지가 표시되어 있습니다.

파트너

리소스

프리벙크

정보 조작에 대한 저항력 강화

프리벙크(Prebunking)란 온라인상에서 이뤄지는 정보 조작 시도를 미연에 방지하는 기법입니다. 사용자에게 이러한 시도에 관해 미리 경고하고 잘못된 주장을 파악, 반박할 수 있는 능력을 키워줌으로써 앞으로 잘못된 정보에 속지 않는 힘을 기를 수 있습니다.

가설

사전 예방 메시지는 사람들이 정보 조작 메시지와 전략(예: the '백신은 자연스럽지 않다' 또는 이민자들이 일자리를 뺏어간다는 주장)을 알아채는 데 도움을 줍니다.

작동 방식

1

1. 특정 사용자 그룹에 소셜 미디어 피드의 광고로 프리벙크 동영상이 게재됩니다.
2

2. 사용자는 짧은 동영상 메시지를 통해 온라인에서 자신을 조작하고자 하는 시도가 이루어진다는 사실을 알게 됩니다.
3

3. 조작 기법이나 메시지의 예가 표시된 후 이러한 잘못된 주장에 반박할 수 있는 논리가 제공됩니다.
4

4. 짧은 설문조사를 통해 동영상 시청자가 이러한 조작 기법을 대조군에 비해 얼마나 잘 기억하는지 분석하면 향후 정보 조작 콘텐츠를 접했을 때 대응할 가능성이 어느 정도인지 평가할 수 있습니다.

발견 항목

73%
프리벙크 동영상을 시청한 사용자 중 온라인에서 잘못된 정보를 꾸준히 식별할 가능성이 더 높았던 사용자 비율(출처: Science Advances )
5%
YouTube 광고의 형태로 제공된 프리벙크 동영상은 사용자가 정보 조작 기법을 알아차릴 확률을 5% 증가시킴 (출처: Science Advances)

접근방식 및 예

Jigsaw는 케임브리지 대학교, 하버드 대학교, 아메리칸 대학교의 학술 파트너와 함께 진행한 실험실 테스트 및 실제 실험을 통해 프리벙크 방식을 테스트했습니다. 이 실험에서는 잘못된 정보를 고착시키는 데 흔히 사용되는 화려한 수사법을 구사하는 전략이나 메시지 등에 대한 저항력을 키우기 위한 짧은 동영상 메시지가 사용되었습니다.

실질적인 노력을 하고 있는 사람들이 활용할 수 있는 가이드라인을 제공하고 자체적인 프리벙크 메시지를 제작하기 위한 기본적인 요구사항을 알리기 위해 BBC Media Action, 케임브리지 대학교, Jigsaw에서는 '프리벙크 안내서'를 제작했습니다. PDF 다운로드

파트너

Demagog, NASK, Jigsaw는 중앙 유럽 및 동유럽에 사는 우크라이나인 이민자에 대한 혐오를 조장하는 메시지에 반박하기 위하여 일련의 동영상을 제작했습니다. YouTube에서 모든 동영상을 시청하세요.

파트너

케임브리지 대학교 및 브리스톨 대학교와 협업하여 온라인상에서 흔히 접할 수 있는 특정 정보 조작 기법에 사전 대응하기 위한 동영상 5건을 제작했습니다. YouTube에서 모든 동영상을 시청하세요.

파트너

하버드 T.H. 챈 보건대학원 및 아메리칸 대학교의 학자와 교육을 마친 의료진과 함께 백신 안전성에 관해 일반 대중 사이에 널리 퍼져 있는 잘못된 메시지를 사전에 바로잡는 데 기여했습니다. YouTube에서 모든 동영상을 시청하세요.

파트너

YouTube의 글로벌 미디어 문해력 프로그램인 Hit Pause는 전 세계 여러 시장의 시청자들이 잘못된 정보를 찾아낼 수 있는 능력을 키울 수 있도록 돕습니다. 감정적 언어와 같이 흔히 사용되는 조작 기법을 사전에 타파하기 위한 Jigsaw의 노력을 기반으로 초기 광고 소재 버전을 만들었습니다. YouTube에서 모든 동영상을 시청하세요.

작성자

파트너

리소스

Jigsaw는 열린 사회에 대한 위협을 파악하고 확장 가능한 솔루션을 뒷받침할 기술을 구축하는 Google의 서비스 분야입니다.

PDF 다운로드