기사출처 :
https://www.nytimes.com/interactive/2023/06/28/technology/ai-detection-midjourney-stable-diffusion-dalle.html
기사제목 : AI 탐지기는 얼마나 쉽게 속는가?
기사내용
1) 최근 AI로 생성된 사진이 사회적 파장을 일으키면서,
사실과 거짓을 구별하는 능력이 주목받고 있다.
최근, AI 생성된 사진과 실제 사진을 구별하는
서비스를 제공하는 회사가 급성장하고 있다.
2) 회사의 탐지 도구는 정교한 알고리즘으로
AI 사진과 실제 사진을 구별하는 신호를 찾는다.
하지만 전문가들은 AI의 발전이
탐지도구보다 언제나 앞설 것으로 우려한다.
https://ibb.co/5ccdgDX
3) 위 사진은 엔론 머스크가 로봇과 포옹하고 있다.
현실적이지 않지만,
여러 AI 탐지기가 실제사진으로 인식했다.
AI 탐지기들은 이미지의 선명도와 대비를 포함해,
화소의 배치에서 특이한 패턴을 찾는다.
하지만, 탐지기는 맥락을 무시해 사람과 같은 로봇이
존재하기 힘들다는 사실을 처리하지 못한다.
AI 탐지 기술의 한가지 단점이다.
4) AI 탐지기의 정확도를 실험하기 위해,
뉴욕타임스는 AI사진과 실제사진을 수집했다.
(이미지는 출처에 따라가시면 나옵니다.)
5) AI 탐지기술은 가짜 사진의 해악을
줄여줄 것으로 환영받고 있다.
하지만, 전문가들은 확신하지 못한다.
“단기간에 AI 탐지 기술은 정확할 수 있지만,
장기적으로 사람의 촬영, 보정 기법을
AI도 재현할 수 있으며
AI 합성사진과 실제사진의 차이를 구별하기
매우 어려울 것이다.
6) 우려의 대부분은 사실적인 인물사진에 있다.
플로리다 주지사이자 공화당 대선주자인
[‘Ron DeSantis’는 AI 합성 사진을
선거운동에 활용하여 비판받고 있다.*]
* 트럼프는 앤서니 파우치 박사에게 비난을 한 뒤로,
논란이 된 적이 있다.
해당 가짜사진은 트럼프와 파우치의 관계가
회복된 것처럼 조작되었다.
- 출처 :
https://edition.cnn.com/2023/06/08/politics/desantis-campaign-video-fake-ai-image/index.html
7) AI 탐기기를 개발한 회사들은
탐지기술의 불완전성을 인정하고
기술적 군비경쟁을 경고했다.
AI는 매시간 향상되며,
탐지기들은 따라잡아야 하는 경우가 많다.
8) 가끔 AI 탐지기는 해당사진이 확실하게 가짜여도
실제사진으로 오인한다.
틀린 결과는 탐지기의 결점을 보여준다.
원본 사진이 변형되거나, 저해상도로 조정된 이미지
판별에 어려워하는 경향이 있다.
9) AI 생성기들은 사진을 만들 때,
수백만 화소로 구성하며
각 화소마다 사진 출처에 대한 단서가 있다.
하지만, 사진에 왜곡필터를 씌우거나
저해상도로 용량을 변경하면
사진 속 단서들이 사라진다.
10) 실제사진을 가짜사진으로 잘못 분류할 위험도 있다.
이러한 위험은, 예술가에게 AI를 이용해
작품을 만들었다는 부정확한 비난을 할 수 있다.
AI 탐지기 제작자에 따르면,
예술가에게 잘못된 비난을 하지 않도록
탐지기 설계에 각별히 주의했다고 한다.
11) AI 탐지 회사들은 그들의 사업이
투명성과 신뢰성을 확보하고,
오보/사기/리벤지 포르노/예술사기 및
다른 기술남용을 적발하는데
도움이 된다고 말했다.
업계 전문가들은 금융시장과 유권자가 가짜 사진에
취약할 수 있다고 경고했다.
12) 사진에 약간의 효과를 반영하자,
AI 탐지기들은 판별에 어려움을 겪었다.
탐지기 회사들은 화소의 세부적인 검토 외에
원근법이나 피사체의 팔/다리의 이상을 토대로
가짜 사진을 식별하려고 노력한다.
13) AI는 실제 같은 사진 이상의 것을 만들 수 있다.
글, 오디오, 비디오를 만들어 교수를 속이고
소비자에게 사기를 치며
전쟁의 흐름을 바꾸는 시도에 활용되고 있다.
14) 연구자들은 AI 탐지기가 방어만 하면 안된다고 한다.
또한 AI 이미지를 만드는 사람은 자신의 작품에
워터마크를 삽입하고,
웹사이트에 AI 탐지기를 포함해 자동적으로 식별할 수 있다.
사진은 “강렬한 반응을 일으키는 성향이 있고,
사람들은 자기 눈으로 본 것을 믿을 가능성이 훨씬 높기에”
특히 강력하다고 말한다.