Saturday , October 1 2022

[윤석만의 인간혁명] "백년 뒤 로봇 이 인간 지배" 호킹 예언 실현 막으려 면



[ad_1]

국 국 국 라 타 갤 전 갤 갤 갤 갤 갤 갤 갤 갤 갤 갤 봇 봇 봇 봇 봇 봇 봇 봇 봇 봇 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬. 오래된 우주선 을 타고 '사일리' 의 대한 을 피해 원시 행성 에 정착 한 주인공 들은 원주민 과 동화 돼 새로운 삶 을 살아 간다. [사진 SyFy 채널]

국 국 국 라 타 갤 전 갤 갤 갤 갤 갤 갤 갤 갤 갤 갤 봇 봇 봇 봇 봇 봇 봇 봇 봇 봇 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬 룬. 오래된 우주선 을 타고 '사일리' 의 대한 을 피해 원시 행성 에 정착 한 주인공 들은 원주민 과 동화 돼 새로운 삶 을 살아 간다. [사진 SyFy 채널]

SF 미드 의 명작 '배틀 스타 갤럭티카' 는 태양계 로부터 수십억 광년 떨어진 '12 콜로니 (colony) '의 이야기 입니다. 이는 인간 이 살고 있는 12 개의 행성 집단 을 말하죠. 이곳 에서 인류 는 뛰어난 과학 기술 이 바탕 이 된 문명적 이기 (利器) 를 누리며 풍요롭게 살고 있습니다. 힘들고 어려운 일은 모두 인공 지능 (AI) 로봇 '사일런 (cylon)' 의 몫 이고요.

하지만 과학 기술 의 발달 로 자의식 은 갖게 된 사일런 은 인간 의 통제 를 통어나 전쟁 을 일으 킵니다. 콜로니 는 모두 사일런 의 지배 아래 에 놓 이고, 마지막 탐사 임무 를 마치고 복귀 하던 '배틀 스타 갤럭티카' 함대 만 가까스로 출출 에 성공 합니다. 사일리 의 격 격 격 해 해 해 해 해 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 어 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류

나중에 드라마 는 이들이 한 원시 행성 에 도착 하는 것으로 끝 납니다. 이곳 엔 제대로 된 언어 조차 갖지 못한 원주민 들이 살고 있었죠. '배틀 스타 갤럭티카' 의 대원 들은 다시 는 비극 의 역사가 반복 되지 않도록 자신들 의 높은 과학 기술 을 스스로 폐관 (閉關) 합니다. 그 대신 원주민 과 동화 해 자연 의 섭리 대로 살아 가죠.

그리고 다시 15 만년 의 시간 이 흐릅니다. 그 사이 인류 와 융화 된 원주민 의 문명 은 매우 높은 수준 으로 발전 하고, 이들 역시 과거 사일리 과 같은 AI 를 만들어 냅니다. 이것이 바로 현재 지구의 모습 이죠. 그라마 는 사일런 을 피해 도망 왔던 인간 이 또 다시 그 와 비슷한 AI 를 만들려 한다는 '아이러니' 한 상황 을 여운 으로 남긴 채 끝맺 습니다.

SF 중엔 유독 로봇 이 인간 을 지배 하는 디스토피아 를 그린 작품 이 더습니다. AI 가 만든 가상 현실 에 갇혀 주체적 삶 을 살지 못하는 '매트릭스' 슈 슈 컴퓨 카 카 카 카 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 는 미 미 받 받 받 받 받 받 받 받 받 받 받 받 받 받 받 받 받 받. 이들 작품 의 대부분 은 인류 를 위해 개발 된 로봇 이 어느 날 전쟁 을 일으켜 인간 을 정복 한다는 이야기 입니다.

실제로 생전 의 스티븐 호킹 박사 는 "100 년 안에 로봇 이 인간 을 지배 할 것" 이라고 말했습니다. 그는 2015 년 2015 자이 트 가이스트 (Zeistgeist 시대 정신) 런던 컨퍼런스 '에서' AI 의 창조 는 인류 역사 의 가장 큰 일 이지만 불행히도 인간 의 마지막 이 될 것 '라고 경고 했죠.

인간 에 내재 된 파괴 의 본능

로봇 '사일런' 의 진화 과정. 과학 기술 이 발전 하면서 지능 은 물론 겉 모습 지지 사람 과 똑같아 진다.

로봇 '사일런' 의 진화 과정. 과학 기술 이 발전 하면서 지능 은 물론 겉 모습 지지 사람 과 똑같아 진다.

이처럼 로봇 이 인간 을 정복 하는 이야기 은 은 은 은 폭 기 기 기 기 때 때 때 때 때 기 기 기 기 때 때 때 때 때 때 기 기 기 때 때 때 때 때 때 때 3 만 5000 년 전 유럽 대륙 에서 사피엔스 가 네안데 을 멸종 시킨 것처럼 말이죠. 불과 한 세기 전의 세계 대전 을 비롯해 지금도 끊이지 않는 내전 과 테러 처럼 인간 에겐 파괴 의 본능 이 내재 돼 있다는 겁니다.

총 총 총 명 명 명 명 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 서 98 98 98 98 98 98 98 98 98 98 98 98 98 98 98 98 같 같 같 같 같 같 같 같 같 같 같 같 같 같 같 같 같 같 같 같. 그렇기 때문에 인간 은 700 만 년 전 침팬지 에서 갈라져 나왔지만 여전히 동물 의 파괴적 본성 을 그대로 유지 하고 있죠. 문제 는 이런 폭력성 이 인간 이 만oci AI 에도 그대로 녹아 있다는 겁니다.

AI 의 본질 은 알고리즘 입니다. 알고리즘 은 문제 해결 의 상황 에서 가장 효율적인 경로 로 해법 을 제시 합니다. 페이스 맞 신 신 신 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 천 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 고 죠 죠 죠 죠 죠 죠 죠 죠 죠 죠 죠 죠 죠 죠. 하지만 여기 엔 큰 맹점 이 있습니다. 사용자 들의 기존 패턴 을 좇아 콘텐트 를 추천 하기 때문에 자소 자신 이 가진 생각 과 취향 만 더욱 강화 되는 것이죠. 이를 '확증 편향' 이라고 부릅니다.

김 김 김 김 김 김 김 김 김 편 편 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 김 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으

슈 슈 린 린 린 린 린 수 수 서 서 서 서 서 서 서 서 서 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 신 '그들' 과 다른 '우리' 가 강조 되고, 우리 의 도덕적 가치 와 철학 을 확신 할수록 '그들' 을 억압 하게 된다는 것이죠. 이렇게 상대 를 억압 하고 통제 하려 들 때 인간 의 폭력성 은 극대화 됩니다. 즉 든 갈 갈 갈 옳 옳 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름 름

인간 의 폭력성 을 학습 하는 AI

[그래픽=차준홍 기자 cha.junhong@joongang.co.kr]

[그래픽=차준홍 기자 [email protected]]

간 간 간 활 활 활 식 식 식 식 식 식 식 식 식 식 식 식 식 식 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 시 2017 년 영국 바스 대 조안나 브리 슨 박사 는 '사이언스' 지에 AI 가 인간 의 편견 을 그대로 학습 한다는 연구 결과 를 발표 했습니다. 예 어 어 어 어 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 정 상 상 상 상 상 상 상 상 상

브리 슨 박사 는 "AI 는 그 자체 로 도덕적 판 단 능력 을 갖고 있지 않기 때문에 인간 의 편견 을 그대로 배운다" 고 설명 합니다. 실제로 2016 년 마이크로 소프트 (MS) 의 AI 채팅 봇 테이 '는 "유대인 이 싫다" 거나 "미국 과 멕시코 간 국경 에 차단 벽 을 설치 해야 한다" 는 발언 을 했다 가 논란 이 됐죠.

쩌 화 화 래 래 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 킬 킬 킬 킬 킬 킬 킬 킬 과거 우리 의 조상 들이 네안데르 인 에게, 지금 우리 가 다른 동물 과 심지어 같은 동족 에게 for 무자비한 폭력 을 벌이는 것처럼 말이죠.

그럼 우리 는 어떻게 해야 이런 디스토피아 를 막을 수 있을까요? 답 답 팬 팬 팬 른 른 른 른 른 른 른 른 른 른 른 른 른 른 른 른 른 른 른 른 그 그 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰 갖춰, 갖춰,,,,,,,,,,,,,,,,,,,,,,,,,, 인간 을 보고 따라 배우는 AI 역시 파괴적 이지 않을 수 있다는 이야기 죠.

작 작 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 으 조 조 조 조 조 조 조 조 조 조 조 조 조 조 조 조 조 조 조 자신 과 다른 의견 을 마치 '적' 을 대하듯 하고, 내 생각 과 다르면 모두 '거짓' 으로 모는 행태 는 타인 을 괴롭게 할 뿐만 아니라 자신 의 영혼 까지 갉아 먹 습니다. 이런 것들이 빅 데이터 로 모여 AI 의 학습 재료, 앞서 이야기 했던 알고리즘 의 원리 에 따라 AI 는 한쪽 에 치우친 생각 만을 강조 하는 '괴물' 이 될 수 있습니다.

20 세기 의 대 석학 움 베르트 에코 는 가 장미 의 이름 」에서" 진리 를 위해 죽을 수 있는 자를 경계 하라 "고 했습니다. 자신 의 신념 만 옳다고 믿는 독선 이 '악' 보다 더욱 위험 하다는 이야기 죠. 선 선 선 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화 화

윤석만 기자 [email protected]


[ad_2]
Source link