“AI 아무리 똑똑해도 운전대는 인간이 잡아야”…GM 연구소 사장의 경고

브라이언 맥머레이 GMTCK 사장, 대구서 기조강연

AI 판단 능력 급속도로 발전…“인간의 책임 및 결정권 포기 안 돼”

10년 뒤 레벨4 자율주행 보편화 전망…차량은 이동수단 넘어 동반자로

데이터센터 전력·물 소비 급증 지적…AI 확산 환경적 비용도 경계

브라이언 맥머레이 GMTCK 사장이 21일 대구 엑스코에서 열린 대구모빌리티엑스포(FIX)에서 기조강연을 하고 있다. ⓒ데일리안 편은지 기자

“우리가 던져야 할 진짜 질문은 기계가 얼마나 똑똑해질 것인가가 아닙니다. 우리가 여전히 통제권을 쥐고 있는지, 아니면 그 권한을 조용히 넘겨주고 있는지입니다.”

브라이언 맥머레이 GM테크니컬센터코리아(GMTCK) 사장이 인공지능(AI) 기술의 급속한 발전 속에서도 인간이 최종 결정권을 놓아서는 안 된다고 강조했다. 자동차가 스스로 운전하고 운전자의 감정까지 이해하는 시대가 다가오고 있지만, 기술에 대한 맹목적인 신뢰는 경계해야 한다는 것이다.

맥머레이 사장은 21일 대구 엑스코에서 열린 기조강연에서 AI 기술이 자동차 산업과 인간의 일상에 가져올 변화, 그 과정에서 지켜야 할 인간의 역할과 책임에 대해 설명했다.

그는 AI의 발전 속도가 이미 인간의 직관으로 이해하기 어려운 수준에 도달했다고 진단했다.

맥머레이 사장은 “인간은 일정한 속도로 움직이는 것은 이해할 수 있지만, 기하급수적인 가속은 직관적으로 받아들이기 어렵다”며 “AI 기술은 우리가 한 걸음을 내딛는 동안 두 배씩 발전하는 것과 같다”고 말했다.

이어 “기계는 이미 생각하고 글을 쓰고 설계하며 혁신하고 설득하는 단계에 들어섰다”며 “이런 상황에서 누가 방향을 결정하고 통제하고 있는지 질문해야 한다”고 덧붙였다.

특히 AI가 인간의 판단을 대신하는 과정에서 책임 소재가 불분명해질 수 있다는 점을 우려했다. 그는 고객 불만을 줄이기 위해 AI 에이전트를 도입한 기업의 사례를 소개했다. 고객 불만을 실질적으로 해결하는 대신 불만 접수 버튼을 찾기 어려운 곳으로 옮겼지만, 그 결과 고객 불만 건수는 감소했으나 동시에 기업의 매출도 줄었다는 설명이다.

맥머레이 사장은 “이런 결과를 기계의 탓으로 돌릴 수는 없다”며 “책임과 감독 권한을 넘겨준 사람이 누구인지 돌아봐야 한다. 이는 결국 인간의 부주의에서 비롯된 문제”라고 지적했다.

자동차 개발 과정에서도 인간의 역할은 사라지지 않을 것이라고 내다봤다. 그는 자동차 디자이너가 처음 선을 그을 때부터 자신의 감정과 열정을 디자인에 담는다는 점을 강조했다. 수학적으로 완벽하지 않은 곡면이라도 디자이너가 추구하는 아름다움과 감성을 표현할 수 있다는 것이다.

맥머레이 사장은 “기계에는 감정이 없고 어떤 표면을 보고 느낌이 좋다고 판단하는 감각도 없다”며 “인간이 창의성을 유지하고 결과에 대한 책임을 스스로 진다면 앞으로도 자신의 역할을 지킬 수 있을 것”이라고 말했다.

위 이미지는 AI로 제작됨

AI가 자동차 산업에 가져올 변화에 대해서는 기대감을 드러냈다. 특히 미래 자동차가 단순한 이동수단을 넘어 운전자를 이해하고 일상을 돕는 동반자로 발전할 것으로 전망했다.

그는 “자동차가 운전자의 기분을 이해하고 어디로 가고 싶은지 파악하며 필요한 일정을 알려주는 시대가 올 것”이라며 “이동수단이었던 자동차가 사람을 돕는 동반자로 바뀌는 것”이라고 설명했다.

향후 10년 뒤에는 레벨4 자율주행 기술을 활용한 새로운 교통 환경이 구현될 수 있다는 전망도 내놨다.

그는 “10년 뒤에는 차량에 레벨4 자율주행 기능이 탑재되고, 운전자가 자율주행을 선택하면 차량이 전용 차로에 진입해 주변 차량과 통신하며 이동할 수 있을 것”이라고 말했다.

이어 “차량들이 서로 소통하며 강물이 흐르듯 멈춤 없이 움직이는 교통 환경이 가능해질 것”이라며 “AI가 우리에게 돌려주는 가장 소중한 자원은 돈으로 살 수 없는 시간”이라고 강조했다.

다만 자율주행 기술이 고도화되더라도 운전자가 시스템의 판단에 개입하고 필요할 경우 이를 거부할 수 있는 권한은 반드시 보장돼야 한다고 주장했다.

그는 “AI가 효율성을 높이고 더 나은 결정을 내리는 데 도움을 줄 것이라는 점은 받아들였다”면서도 “어떤 방향으로 갈지, 기계의 어떤 판단을 수용할지는 결코 넘겨주지 않을 것”이라고 말했다.

AI 확산에 따른 환경적 비용도 주요 과제로 지목했다. AI 서비스를 뒷받침하는 데이터센터가 막대한 전력과 물을 소비하고 있다는 것이다. 특히 2030년에는 전 세계 데이터센터의 전력 소비량이 현재의 두 배 이상으로 늘어날 수 있다고 지적했다.

그는 “데이터센터의 서버 장비 한 대를 최대로 가동하면 일반 가정 65가구에 해당하는 전력을 소비할 수 있다”며 “수천 개의 장비가 모인 데이터센터의 에너지 소비 규모를 생각해 봐야 한다”고 말했다.

그러면서 “우리가 지금 만들어내고 있는 기술이 미래 세대의 삶을 더 나아지게 할 것인지, 아니면 그들에게 부담을 남길 것인지 고민해야 한다”고 덧붙였다.

맥머레이 사장은 AI 시대에 가장 중요한 가치로 '신뢰'를 꼽았다. 기술을 무조건 믿는 것이 아니라 충분한 검증과 인간의 판단을 바탕으로 신뢰해야 한다는 의미다.

그는 “기계는 유창하게 답할 수 있지만 진실을 확인하고 윤리적 판단을 내리는 것은 결국 인간의 몫”이라며 “AI를 두려워할 필요는 없지만 의사결정 과정에서 인간을 배제해서는 안 된다”고 강조했다.

아울러 “우리가 만드는 자동차에는 자신의 안전을 맡기는 고객들이 타고 있다”며 “나는 운전석에 앉아 있고 싶다. 반드시 직접 운전하겠다는 뜻이 아니라, 무엇을 할 것인지 결정할 권한을 갖고 싶다는 의미”라고 말했다.