테슬라의 자동차가 모터사이클을 들이받는 사망사고가 발생했다. 그리고
오토파일럿이 그 이유로 주목받고 있다. 왜 모터사이클을 보지 못했을까?
2022년 7월의 어느
날, 미국 캘리포니아에서 새벽 4시 즈음에 테슬라 모델 Y가 앞에서 주행하던 야마하 V-스타 모터사이클을 들이받는 사고가 발생했다. 모터사이클 라이더는 현장에서 사망했고, 테슬라 운전자의 오토파일럿
작동 여부는 아직 조사 중이다. 이어서 7월 말, 미국 유타 주에서 테슬라 모델 3가 앞에서 주행하던 할리데이비슨
스포스터 모터사이클을 들이받았다. 라이더는 사망했으며, 모델
3의 오토파일럿은 켜져 있었던 상태였다.
테슬라의 자동차는 모터사이클을 인식하지 못할까? 정확히는 알 수 없으며, 필자의 적은 경험으로 결론을 내릴 수 없다. 주행 시 오토파일럿을
작동시키면 주변에 있는 자동차들을 보여주는데, 여기에는 당연히 모터사이클도 포함된다. 그런데 중요한 것은, 필자는 테슬라가 앞 범퍼의 레이더를 없애기
전 모델들만 경험했다는 것이다. 단지 추론할 수 있는 것은 사고가 일어난 시간과 모터사이클의 종류가
관계가 있을 것이라는 것 정도다.
사고가 일어난 시간은 공교롭게도 모두 새벽이었다. 미국 고속도로가
모두 그런 것은 아니겠지만, 가로등이 없어서 헤드램프에만 의존해야 되는 곳이 굉장히 많다. 아무리 밝은 헤드램프가 있어도 밤에 주행하는 것은 긴장의 연속이다. 그리고
사고를 당한 모터사이클들이 공교롭게도 모두 ‘아메리칸 크루저’ 형태였다는
것이다. 그냥 크루저가 아니라, 테일램프가 낮은 곳에 위치하는
크루저 모델이다. 제작 규정이 있으니 밝기는 확보했겠지만 말이다.
오토파일럿의 함정
테슬라는 자율주행을 계속 연구하고 있지만, LiDAR(단거리 레이저
레이더)를 사용하지 않기로 결정했다. 일론 머스크가 직접
이야기했으며, 레이더와 카메라만 이용해 자율주행을 실현하겠다는 것이다.
그리고 얼마 지나지 않아, 모델 3와 모델 Y의 앞 범퍼에서 레이더조차 제거했다. ‘카메라로 모든 것을 볼 수
있으니 레이더가 굳이 필요 없다’는 것이 테슬라의 입장이지만, 미국
NHTSA는 모터사이클 사고와 관련해 계속 테슬라를 조사하고 있다.
실제로 NHTSA는 2016년부터
시작해 자율주행 또는 보조 운전기능이 사용된 것으로 의심된 39건의 충돌 사고에 조사팀을 파견했다. 그 중 30건의 사고가 테슬라와 관련되어 있으며, 19건은 사망 사고로 이어졌다. NHTSA의 행동이 느려지자, 미국의 ‘비영리 자동차 안전 센터’의
전무 대행인 마이클 브룩스(Michael Brooks)는 NHTSA에게
“테슬라에게 오토파일럿 리콜을 요청하라”고 요구했다. 또한 조사를 계속하면서도 조치를 제대로 취하지 않은 것에 대해 비판했다.
테슬라의 오토파일럿에 대한 문제는 꽤 많이 제기되고 있다. LiDAR를
사용하지 않는 것도 문제가 되지만, 전면 레이더를 없애고 카메라와 컴퓨터 메모리에만 의존하는 방식이
문제가 된다는 것이다. 안전을 옹호하는 사람들은 레이더가 없으면 밤에 카메라가 물체를 제대로 구분할
수 없다고 말한다. 게다가 테슬라가 레이더를 없애면서 아무것도 없는 도로에서 갑자기 브레이크가 걸리는
현상이 점점 더 심해지고 있다고 전해지고 있다.
테슬라의 ‘일론 머스크’는
‘오토파일럿 기능이 인간이 운전하는 것보다 안전하다’면서
통계를 내민다. 그러나 생각해보자. 대다수의 운전자가 오토파일럿
기능을 작동시키는 곳은 고속도로를 이용한 장거리 주행 또는 신호가 없는 도로를 다닐 때다. 그 때를
기준으로 통계를 다시 끌고 오면, 오히려 사람이 직접 운전하는 것보다 오토파일럿이 더 위험하게 작동할
때가 많아진다. 흔히 이야기하는 ‘통계의 오류’를 저지르고 있는 셈이다.
자율주행차라면 안고 있는 문제
자율주행은 ‘딥러닝’에
기반하고 있다. 테슬라는 오토파일럿이라는 이름 하에 실제로 자율주행 기술이 아닌 ‘운전자 주행 보조 기술’을 말하고 있으며, 운전자들에게 도로 정보를 수집하도록 하고 있다. 운전자가 도로상에
있는 수 많은 탈 것 또는 장애물에 대한 정보를 수집해서 자동차에 저장하면, 테슬라는 그 정보를 받아서
인공지능에게 ‘딥러닝’을 시킨다. 많은 정보들을 기반으로 후에 다른 자동차를 파악할 수 있도록 만드는 것이다.
그러나 딥러닝에는 문제가 있다. 자율주행 분야에서 상위권에 든다는
‘웨이모’의 자율주행차가 공사중인 도로에 세워 둔 원뿔에
대처하지 못하고 주행을 멈추고 만 사태가 있었다. 왜 그럴까. 사람이
갖고 있는 ‘의미’와 ‘이해’라는 영역에 아직 기계가 도달하지 못했기 때문이다. 만약 도로에 원뿔이
나란히 서 있고 화살표가 우측을 가리킨다면, 사람은 ‘좌측
차선은 통행금지 상태이니 우측으로 이동한다’라고 이해할 것이다.
기계는 이 이해를 전혀 하지 못한다. 학습시키면 된다고 할 수 있으나, 도로의 원뿔은 언제나 서 있지는 않다. 바람에 날려 직선에서 약간
벗어난 형태로 서 있을 수 있으며, 쓰러져 있거나 때로는 다른 자동차에 밟혀서 찌그러져 있기도 하다. 인간이라면 이 상태에서도 ‘원뿔을 세워놓았으니 저쪽으로 가지 않는다’라고 이해하지만, 기계는 쓰러지거나 찌그러진 원뿔을 그대로 인식하지
못한다. 원뿔이 아닌 다른 물체로 인식할 가능성이 높다.
사람이라면 도로교통표지판에 스티커가 붙어 있어도 어떤 표식인지 인지할 수 있을 것이다. 그러나 딥러닝으로 잘 훈련된 인공지능조차 스티커가 붙은 표식을 그대로 인식하지 못하고 ‘음식과 음료가 들어있는 냉장고’로 인식해버렸다. 그저 노란색으로 칠해진 소형차를 ‘스쿨버스’로 인식하는 것 정도는 애교다. 만약 어떤 사람이 인공지능의 인식을
방해하는 스티커를 제작해 표지판마다 붙이고 다닌다면, 큰 혼란이 일어날지도 모른다.
현재 자율주행을 연구하는 업체들이 카메라와 레이더뿐만 아니라 LiDAR까지
사용하는 이유는 의외로 간단하다. 중복성을 갖기 위해서다. 자율비행이
발달했다는 그 비행기조차도 오류에 대응하기 위해 여러가지 기능과 각기 다른 센서를 갖추고 있으며, 항상
두 명의 파일럿이 존재한다. 조금 다른 이야기이긴 하나, 인피니티가
전자식 스티어링 휠을 개발할 때 감지용 유닛을 두 개나 넣었고 그것도 모자라 물리적인 연결이 가능하도록 만든 것과 마찬가지다.
테슬라는 오토파일럿이라는 이름을 고집하기를 원하고 있지만, 실제로는
운전 보조 장비이기에 ‘운전자에게 항상 경고하고 있다’고
말한다. 그러나 미국 캘리포니아 자동차국(DMV)은 테슬라가
오토파일럿과 FSD(Full Self-Driving)기능을 허위 광고하고 있다고 비난하면서 주 행정
청문회 사무실에 불만을 제기했다. 독일과 미국에서 비난을 받아가면서까지 이 이름을 유지하는 이유는 하나밖에
없을 것이다. 무엇인지는 이미 독자 여러분들도 알고 있을 것이다.
똑바로 운전하는 자세가 필요하다
만약 운전자가 오토파일럿에 의존하지 않고 직접 운전했다면 어떻게 됐을까? 그래도
운전자는 앞에 있는 모터사이클을 보지 못하고 그대로 돌진했을까? 졸음운전 또는 휴대폰 등에 한눈을 팔지
않았다면 그러지 않을 것이다. 적어도 운전자라면 빛이 없어도 모터사이클의 테일램프를 제대로 인식할 수
있을 테니 말이다. 만약 늦게 발견했다 해도 브레이크를 강하게 밟았다면, 모터사이클 라이더가 치명상을 입지는 않았을지도 모른다.
자동차 운전 보조 시스템은 어디까지나 운전을 보조하기 위한 것이지, 모든
것을 알아서 해 주지 않는다. 일론 머스크가 이야기한 ‘완전
자율주행의 시대’는 영원히 오지 않을 가능성이 높다. ‘국내에서
모터사이클이 고속도로를 주행할 수 없으니 나와는 상관없는 이야기’라고 이야기하지는 말기 바란다. 만약 그렇게 방심했다가 경찰 모터사이클 또는 소방용 모터사이클을 들이받는다면,
그 때 일론 머스크가 당신을 구해주지는 않을 테니 말이다.
글 | 유일한