기사 링크 :
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
기사 내용
1) Geoffrey Hinton 소개
- 토론토 대학원생 제자 2명과 함께
AI의 이론적 기반이 되는 기술을 개발했다.
- 그는 10년 넘게 일한 구글에서 물러나
5. 1.(월) 빅테크 기업들의 AI 경쟁이
위험하다고 언급했다.
또한 평생동안 수행한 연구들이 후회스럽다고 했다.
2) AI 개발에 대한 반대 의견
- 1000명 이상의 테크 업계 연구자들은
사회와 인류에 대한 위협을 이유로
AI 개발을 6개월 유예하는 공개서한에 서명했다.
- 인공지능 분야에 권위있는
AAAI(Association for the Advancement of Artificial Intelligence)
전, 현직 학회장 19명은
AI의 위험성을 경고하는 서한을 발표했다.
이들 중 마이크로소프트의 수석 과학자인
‘Eric Horvitz’도 있다.
3) Geoffrey Hinton의 연구 소개
- 1972년 에든버러 대학원에서
neural network을 (신경망 구조) 접하면서
평생 연구했다.
- 1980년대, 미국 카네기 멜론 대학에 교수로 재직했지만,
국방부의 연구지원이 꺼려 캐나다로 떠났다.
당시 미국 대부분의 AI 연구는
국방부로부터 자금을 지원받았다.
그는 AI를 살상무기로 사용하는데 격렬히 반대했다.
- 2012년 Hinton 박사와 토론토 대학원 제자 2명은
신경망을 구축했다.
신경망은 수천장의 사진을 분석하고,
일상적인 사물들 (자동차, 꽃 등) 식별하는 방법을
스스로 학습한다.
- Hinton 박사의 회사는 구글로부터 인수되었고
신경망은 점점 더 강력해졌다.
- 해당 연구의 공로로 동료 2명과 함께 튜링상을 받았다.
또한, 그는 AI가 사람만큼
언어를 다루지 못할 것으로 생각했다.
4) 테크 기업들이 신경망 기술을 AI에 적용하기 시작했다.
분석에 활용되는 데이터의 규모가 커지면서
Hinton 박사의 생각은 바꿨다.
“어쩌면 AI에서 작동하는 연산능력이
인간의 지적능력을 능가할 수 있다.”
5) 그가 보기에 기업들이 AI를 개선할수록 위험성은 커진다.
“5년 전과 지금의 AI는 많이 달라졌고,
사람들에게 널리 활용될 겁니다. 끔찍한 일입니다.”
6) 작년 까지만 해도 구글이 신중하게 행동했다.
하지만 마이크로소프트가
chatbot 기능을 Bing 검색 엔진에 탑재해
구글에게 도전하면서, 기업 간 경쟁이 시작되었다.
7) Hinton 박사의 걱정은
가) 인터넷에 가짜 사진, 글이 넘쳐
사람들이 무엇이 사실인지 모르게 되는 경우,
나) 번역가 등 반복 작업을 다루는 직업을 대체하면서
고용 시장을 흔드는 경우,
다) AI가 예상하지 못한 행동을 학습하면서
인류에게 위협이 되는 경우이다.
8) 그는 회사나 개인이 AI에게 프로그램 코드를 생성하도록 하고
그것을 작동하도록 허용할 때 문제가 된다고 했다.
또한 살인 로봇처럼 자동화된 무기가
현실이 되는 날이 올 것을 두려워한다.
9) “AI가 사람보다 똑똑해질 수 있다는 의견은
소수만이 믿었습니다.
하지만 대부분은 완전히 틀렸다고 생각했고,
저는 인간을 능가하려면 30 ~ 50년 이상 걸릴 것으로 생각했습니다.
이제는 그렇게 생각하지 않습니다.”
10) 핵무기와 달리 인공지능 개발은
확인할 방법이 없어 규제가 불가능 하다.
가장 좋은 방법은 세계 정상급 과학자들이 협력해
AI 기술을 통제하는 것이다.