테슬라의 반자율주행 자동차 기술은 540억 달러의 성공 스토리를 만들어내고 있다. 그러나 여전히 오토파일럿 시스템에는 결함이 있으며 특히 자전거 타는 사람 식별에서 취약하다는 지적이 나왔다.

포춘지는 최근 스탠포드대학 로봇공학 연구원 '헤서 나이트(Heather Knight)' 박사가 동료 연구자와 진행한 운전 테스트 결과를 보도했다. 나이트는 인간-로봇 인터페이스(HRI) 전문가로 카네기멜론대학 로보틱스연구소(Robotics Institute)에서 박사학위를 받았으며 스탠포드에서 소셜 로보틱스로 포스트닥터 과정을 밟고 있다.

나이트는 최근 스탠포드 동료와 함께 남캘리포니아 거리와 고속도로를 다니면서 테슬라 오토파일럿 시스템을 테스트했으며 그 결과를 블로그 사이트인 미디움에 게재했다. ‘테슬라 오토파일럿 리뷰: 바이커들은 사망할 것(Tesla Autopilot Review:Bikers Will Die)’이라는 다소 자극적인 에세이에서 나이트는 자율주행 기술이 인간과 로봇의 상호 작용에 대한 기대치에 부합하는지 확인하기 위해 이 같은 실험을 진행했다고 밝혔다.

두 사람은 테슬라의 오토파일럿이 대부분의 상황에서 잘 작동했지만 자전거 운전자에 대한 무시는 위협적인 수준이었다고 우려했다. “자전거 타는 사람이 위험에 처해있다”는 말로 해당 상황을 표현했다. 특히 운전자가 주변의 환경에서 자동차가 볼 수 있는 것이 무엇인지 이해하도록 해주는 테슬라의 ‘상황인식 디스플레이’는 자동차에 대해서는 상당히 정확하지만 자전거 타는 사람에게는 정확하지 않았다고 말한다.

나이트는 또 “오토파일럿은 다른 차량의 약 30%, 자전거의 약 1%를 분류한다고 볼 수 있다”며 “사물을 분류할 수 없다고 해서 테슬라가 무언가가 있는 것을 볼 수는 없다는 의미는 아니지만 생명에 위협 요인이 있다는 것은 변함이 없다”고 말한다. 그녀는 “우리는 자전거 타는 사람 주변에서는 절대 테슬라 오토파일럿을 이용하지 말라고 권하고 싶다”고 역설한다. 오토파일럿을 구동한 테슬라 자동차가 자전거 타는 사람과 부딪친 사례는 없지만 2016년 노르웨이에서는 테슬라가 오토바이를 제대로 인식하지 못한 사고 사례가 있다.

일부는 ‘위험 지나치게 과장’ 비판도

지난해 월스트리트저널이 테슬라의 오토파일럿 기능에 대한 사용자 인식 조사에서 어떤 운전자는 문자를 하면서 갑자기 앞쪽으로 튀어나온 바이커와 충돌할 뻔한 것을 오토파일럿이 막았다고 전했다. 나이트는 미디움과 트위터에서 그녀의 글을 읽는 독자들에게 일일이 답변했으며 그녀는 테슬라를 좋아하지만 감지의 부정확성 때문에 오토파일럿 시스템에는 인간이 개입하는 것이 여전히 필요하다고 지적한다. 나이트는 결함이 있음에도 불구하고 테슬라의 상황인식 디스플레이에 A+ 등급을 부여하고 “운전자가 자동차의 약점을 이해하는데 도움을 주었다”고 평가했다.

그러나 나이트의 에세이에 댓글을 단 사람들 중 일부는 감지 시스템에 결함이 있다는 증거를 충분히 제공하지 못했으며 기사의 제목이 자전거 운전자에게 주는 위험을 필요 이상으로 과장하고 있다고 비판했다. 이에 대해 나이트는 소위 오토파일럿이 언제나 완전히 자율적인 것으로 간주하고 주위에 주의를 기울이지 않으면 치명적인 충돌을 야기할 수 있다는 점을 경고한 것이라고 설명했다.

테슬라는 오토파일럿이 완전히 자율적이지는 않다는 것을 운전자에게 분명히 알리고 운전대에 항상 손을 얹고 주변 환경에 항상 주의를 기울일 것을 요구하고 있다. 운전자가 휠을 일정 시간동안 손에서 떼면 오토파일럿 작동이 중지돼 차량이 멈추지 않는 한 다시 활성화할 수 없다. 포춘은 테슬라 측에 나이트의 지적에 대한 의견을 물었으며 답변이 오는대로 내용을 업데이트할 계획이라고 밝혔다.