'AI 대부’ 제프리 힌턴, 구글 퇴사하며 AI 위험성 경고

https://im.newspic.kr/Ns6m1QH

‘AI 대부’ 제프리 힌턴, 구글 퇴사하며 AI 위험성 경고

‘인공지능(AI)의 대부’로 널리 알려진 제프리 힌턴(75) 박사가 지난 1일(현지시간) 구글을 그만두며 AI 발전으로 인한 위험성이 증가하고 있다고 경고했다.

힌턴 박사는 미 ‘뉴욕 타임스’에 보낸 성명을 통해 자신의 업적을 후회한다고 밝히며 구글에서 사표를 냈다.

힌턴 박사는 BBC와의 인터뷰에서도 AI 챗봇으로 인한 위험 중엔 “매우 무서운” 내용도 있다고 밝혔다.

“지금 당장은 AI가 우리보다 지능이 높은 건 아닙니다만, 곧 넘어설 수도 있다고 생각합니다.”

그러면서 “올해 나이 75세다. 은퇴할 때”라며 퇴사를 결정하는 데 나이 또한 고려해 사임하게 됐다고 인정했다.

힌턴 박사는 영국계 캐나다 출신 인지 심리학자이자 컴퓨터 과학자로, 선구적인 딥러닝과 신경망에 관한 연구로 ‘챗GPT’와 같은 현재의 AI 시스템의 길을 연 인물이다.

힌턴 박사는 이번 BBC와의 인터뷰에서 AI 챗봇의 정보 수준이 인간의 뇌가 보유한 수준을 곧 추월할 수 있다고 경고했다.

“현재 등장한 GPT-4와 같은 모델도 이미 일반적인 지식의 양 측면에서 사람을 훨씬 능가하고 있습니다. (그러나) 아직 추론과 같은 분야에선 그리 뛰어나진 않은 수준이나, 이미 간단한 추론 정도는 할 줄 아는 수준입니다.”

루리리 명상 고양이 조각상

“또한 발전 속도를 생각하면 (AI 모델은) 상당히 빠르게 발전할 것입니다. 그렇기에 우리는 이에 대해 걱정할 필요가 있죠.”

한편 뉴욕 타임스 기사에서 힌튼 박사는 AI를 “나쁜 일”에 사용하려는 “악의적인 이들”을 언급한 바 있다.

BBC가 이에 대한 자세한 설명을 요청하자, “일종의 최악의 시나리오로 보면 된다. 악몽 같은 시나리오”라는 답이 돌아왔다.

“일례로 블라디미르 푸틴 [러시아 대통령]과 같은 악의적인 이들이 로봇이 자신만의 하위 목표를 설정할 수 있는 능력을 줘버리는 상황인 거죠.”

국산 마가목열매 1kg 마가목

그러면서 힌턴 박사는 이러한 상황에서 AI 로봇들이 ‘난 더 많은 힘이 필요하다’와 같은 하위 목표를 설정하게 될 수도 있다고 경고했다.

“현재 우리가 개발하고 있는 지능은 우리가 지닌 지능과는 매우 다른 종류라는 결론을 내리게 됐습니다.”

“우리는 생물학적 시스템이고, 이것들은 디지털 시스템이죠. 가장 큰 차이점은 디지털 시스템에선 같은 복사본이 더 많다는 점입니다.”

라도스트 토스트 무드등

“그리고 이 모든 복사본은 개별적으로 학습하면서도 즉시 지식을 공유할 수 있습니다. (예를 들어) 마치 1만 명의 사람들이 있는데, 한 사람이 무언가를 배울 때마다 모든 사람이 자동으로 이를 알게 되는 거죠. 이것이 바로 챗봇이 사람보다 훨씬 더 많은 정보를 습득하는 방법입니다.”

한편 그러면서도 힌턴 박사는 구글을 비판하고 싶지 않다며, 구글은 “매우 책임감 있다”고 강조했다.

“저는 사실 구글에 대해선 몇 가지 좋은 말을 하고 싶습니다. 오히려 제가 구글을 떠나면 구글의 신뢰성을 더 높아질 테죠.”

한편 제프 딘 구글 수석과학자는 성명을 통해 “우리는 AI 분야에서 책임감 있는 접근법을 고수한다. 이로 인한 새로운 위험 요소를 이해하는 동시에 과감히 혁신하는 법을 찾고자 끊임없이 배우고 노력한다”고 밝혔다.

히솜 부착형 사진 걸이 2세트

#AI #인공지능 #AI 챗봇 #GPT-4 #AI 모델 #빠른 성장 #생물학적 시스템 # 디지털 시스템 #정보 습득 #구글 #