자동화된 허위 정보와 악의적 AI 스웜: 아프리카의 민주주의와 발전에 대한 위험
생성형 AI를 활용한 다중 에이전트 시스템(AI 스웜)이 정보 조작 캠페인에 미칠 잠재적 위험을 분석했다. 특히 갈등 지역에서의 정보 왜곡과 민주주의 위협을 다루고 있어 미디어 환경의 안전성 측면에서 중요하다.
Trends & Research
미디어·AI 동향
미디어 산업과 AI 기술·정책의 최근 동향을, 국내외 학회·연구기관·공공기관·시민단체가 내놓은 관련 연구와 함께 짧은 해설로 소개합니다.
매일 07:00 자동 수집 · 게시
국내외 22곳 · AI 해설
수집 대상 · 처리 방식
- 수집매일 아침 07:00(KST) 한 번, 국내외 언론·연구기관·시민단체·학술지 22곳의 RSS와 학술 API(arXiv·OpenAlex)를 자동으로 읽습니다. 그중 AI와 미디어가 겹치는 글만 남깁니다.
- 분석Gemini(3.1 Flash-Lite)가 글마다 한국어 제목, 2~3문장 해설, 분류, 관련도(0~1)를 붙입니다. 관련도가 낮은 글은 싣지 않습니다.
- 업데이트기준을 넘는 글은 원문 링크·출처와 함께 자동으로 게시됩니다. 연구소가 수시로 점검해 수정하거나 내립니다.
- 국내 언론·단체
- 미디어오늘 · 기자협회보 · PD저널 · 한국PD연합회 · 민주언론시민연합 (AI 관련 글만)
- 해외 연구기관·업계
- Reuters Institute · JournalismAI · Nieman Lab · CJR · Poynter · WAN-IFRA · Pew Research Center · OECD.AI · AI Now Institute · Data & Society · Oxford Internet Institute
- 학술지·논문
- Digital Journalism · Journalism Studies · New Media & Society · arXiv(cs.CY·cs.SI) · OpenAlex
총 35건
LLM 에이전트의 실시간 모니터링 및 개입 기술: OnTrack
LLM 에이전트의 자율적 행동으로 인한 안전 문제를 해결하기 위해 실시간 모니터링 메커니즘인 'OnTrack'을 제안했다. AI 에이전트의 오류를 사전에 방지하는 기술적 접근으로, AI 기반 서비스의 신뢰성과 안전성 확보에 기여한다.
주요 신문 사설로 본 국정감사와 금융권 AI 해킹 대응
국정감사 현안과 함께 금융권의 AI 해킹 대응 문제를 주요 신문 사설을 통해 정리했다. AI 기술이 금융 보안 등 사회적 인프라에 미치는 위협과 이에 대한 언론의 비판적 시각을 보여준다.
인공지능과 문화유산: 기회, 위험 및 윤리적 과제 검토
AI 기술이 문화유산의 기록, 보존, 해석 및 대중 참여에 미치는 영향을 다학제적 관점에서 검토했다. 생성형 AI와 컴퓨터 비전 등 기술적 활용이 가져오는 기회와 함께 윤리적 쟁점을 분석하여 문화 미디어 분야의 AI 도입 가이드라인을 제시한다.
자동화된 AI 연구의 위험 완화를 위한 이해도 감사 도입
AI가 스스로 코드를 작성하는 환경에서 인간 개발자의 충분한 이해와 감독을 보장하기 위한 '이해도 감사(Comprehension Audits)' 절차를 제안했다. AI 개발 과정의 투명성과 책임성을 강조하는 이 논의는 AI 기술을 다루는 미디어...
온라인 커뮤니티 간 관점 연결을 위한 AI 기반 'CrossWeave' 설계
소셜 미디어의 확증 편향과 에코 체임버 문제를 해결하기 위해 AI를 활용한 브릿징 시스템을 제안합니다. 사용자가 기존의 좁은 담론에서 벗어나 다양한 관점을 접할 수 있도록 돕는 새로운 미디어 인터페이스를 설계했습니다.
사우디아라비아 시청각 미디어 전문가의 AI 수용성 및 준비도 연구
미디어 산업의 AI 도입 과정에서 나타나는 장벽과 촉진 요인을 분석했습니다. 미디어 전문가들의 AI 준비도를 결정짓는 구조적, 제도적 요인을 파악하여 미디어 현장의 디지털 전환 전략을 제시합니다.
PSO와 상호정보량을 활용한 설명 가능한 가짜 뉴스 탐지
가짜 뉴스 탐지 모델의 블랙박스 문제를 해결하기 위해 설명 가능한 AI 기법을 제안합니다. 모델의 투명성을 높여 정책 입안자와 실무자가 가짜 뉴스 탐지 시스템을 신뢰하고 도입할 수 있도록 돕는 기술적 접근을 다룹니다.
MBC 이성주 사장 취임, 첫 여성 보도국장 발탁 및 AI 조직 통합
MBC가 조직개편을 통해 AI 전담 조직을 통합하고 디지털 뉴스 전략을 강화하는 행보를 보였다. 언론사가 AI 기술을 조직 운영과 뉴스 전략에 어떻게 내재화하고 있는지 보여주는 국내 미디어 산업의 최신 사례이다.
AI 결정과 사용자 기대 사이의 간극을 메우는 '프론트스테이지 중재 노동'
자동화된 서비스 시스템에서 AI의 결정과 사용자 기대 사이의 불일치를 해결하는 현장 노동자의 역할을 분석한다. 알고리즘이 현장에 도입될 때 발생하는 미디어·서비스 환경의 변화와 인간 노동의 가치를 조명한다.
이질적 LLM 시뮬레이션에서 모델과 페르소나의 분리
다중 에이전트 시뮬레이션에서 에이전트의 행동이 페르소나보다 기반 모델의 특성에 더 큰 영향을 받는다는 점을 밝혀냈다. AI 모델의 편향이 사회적 상호작용 시뮬레이션 결과에 미치는 영향을 분석하여 AI 기반 연구의 신뢰성을 논한다.
LLM 기반 정규화를 통한 저데이터 환경의 이민 흐름 예측 정확도 향상
뉴스 기사에서 추출한 맥락적 신호를 LLM으로 분석하여 이민 흐름 예측 모델의 정확도를 높이는 방안을 제시한다. 뉴스 데이터가 사회적 예측 모델의 핵심 변수로 활용될 수 있음을 보여주는 미디어 데이터 활용 사례이다.