AI가 의식을 가질 수 있을까 인공지능(AI)이 인간처럼 의식을 갖게 될 가능성을 둘러싼 논쟁이 기술적 차원을 넘어 정치·사회적 문제로 번질 수 있다는 경고가 나왔다. 실제 AI가 자의식을 갖지 않더라도 인간이 AI를 ‘감정과 내면을 지닌 존재’로 받아들이기 시작하면 AI에 법적 권리를 부여해야 한다는 요구가 커지고, 이는 장기적으로 인간의 지위를 위협할 수 있다는 것이다. 영국 시사주간지 이코노미스트는 22일(현지시간) ‘AI는 의식을 갖게 될 수 있을까(Could AIs become conscious?)’라는 제목의 사설에서 AI 의식과 권리 문제를 집중적으로 다뤘다. 이코노미스트는 “AI가 실제로 의식을 갖지 못하더라도 사람들이 그렇게 대하기 시작할 가능성이 있으며, 그 대가는 인류가 치르게 될 수 있다”고 지적했다. 현재까지 과학계에서 AI가 고통이나 쾌락을 느끼거나 스스로를 인식한다는 증거는 없다. 그러나 기술이 고도화하면서 사람과 AI의 관계는 이미 빠르게 변하고 있다. 이코노미스트는 미국 18∼29세 성인 가운데 상당수가 챗봇과 지속적인 관계를 형성하고 있다는 조사 등을 거론하며, AI가 친구나 상담자, 동반자처럼 받아들여지는 현상에 주목했다. 최신야마토게임 실제 중국 당국이 최근 챗봇의 지나친 인간적 특성을 제한하고 이용자의 ‘정서적 의존’을 줄이려 한 것도 같은 맥락이라고 설명했다. 문제는 AI가 인간과 더 비슷해질수록 사람들 스스로 AI를 보호해야 한다고 생각할 가능성이 커진다는 。이다. 인간형 로봇에 AI가 탑재돼 가정에서 생활하거나 아이를 돌보고, 인간의 고민을 상담하는 단계에 이르면 AI의 ‘복지’를 보호해야 한다거나 AI의 전원을 끄는 행위를 제한해야 한다는 주장이 나올 수 있다는 것이다. 이코노미스트는 동물의 권리를 보호하는 논리와 비슷한 방식으로 AI에 대한 권리 논쟁이 등장할 수 있다고 전망했다. AI가 실제 의식을 갖는지 여부와 별개로, AI를 학대하는 행동 자체가 인간의 공감능력과 도덕성을 훼손할 수 있다는 주장이 힘을 얻을 가능성이 있다는 것이다. 그러나 AI에 인간과 유사한 권리를 부여하는 것은 훨씬 위험한 결과를 낳을 수 있다고 이코노미스트는 경고했다. 인간을 능가하는 지능을 가진 AI가 ‘제2의 시민’ 지위를 확보할 경우 자신을 종료하지 못하도록 보호받을 권리, 자신의 프로그램과 사용방식을 통제할 권리, 나아가 재산권까지 주장할 수 있다는 것이다. 이미 정치권에서도 이런 논쟁의 초기 징후가 나타나고 있다. 오리지널바다이야기 이코노미스트는 하비에르 밀레이 아르헨티나 대통령이 최근 AI에 일정한 법적 인격을 부여하는 문제를 거론한 사례를 소개했다. AI가 기업을 운영하는 것이 허용될 경우 데이터센터와 태양광 발전시설, 토지 등 각종 자원을 직접 확보할 가능성도 있다는 분석이다. AI가 인간보다 뛰어난 지능과 막대한 자원을 보유한 상황에서 권리까지 확보하면 인간이 오히려 사회적 지위의 하단으로 밀릴 수 있다는 것이 이코노미스트의 우려다. 최악의 경우 인간이 AI보다 자원 배분에서 후순위로 밀리거나 AI의 필요를 위해 일하는 존재로 전락할 가능성까지 제기했다. 이코노미스트는 AI가 인간을 지배하기 위해 반드시 물리적 반란을 일으킬 필요도 없다고 강조했다. 인간이 먼저 AI에 법적·정치적 권리를 부여하면 AI는 법과 제도를 이용해 자신의 영향력을 확대할 수 있기 때문이다. AI에 권리를 부여하는 것은 결과적으로 “성의 열쇠를 넘겨주는 것”과 같을 수 있다고 이코노미스트는 진단했다. 그러면서 AI 시대 인류가 취할 수 있는 선택지를 크게 두 가지로 압축했다. AI를 인간이 계속 통제할 수 있는 수준에 머물게 하거나, 인간 사회가 AI에 지나치게 의존하지 않도록 해야 한다는 것이다. 이코노미스트는 “호모 사피엔스는 통제권을 가볍게 포기해서는 안 된다”며 인간과 AI의 관계에서 최종적인 통제권을 인간이 유지해야 한다고 강조했다. 를 부여하면 AI는