인공지능(AI) 이슈-자율주행차 사고는 누구의 책임일까.

자율주행 기술의 단계별 분류. [출처 : EV POST] 위 이미지를 참고하면 자율주행 1-2단계의 경우 일반적인 자동차 사고와 동일하게 처리되지만 자율주행 3단계도 특수한 상황에서는 운전자가 적극적으로 개입해야 하기 때문에 일반적인 사례와 마찬가지로 운전자에게 책임을 묻는 사례가 많습니다.

하지만 자율주행 4단계부터 문제가 복잡해집니다.레벨4는 차량이 교통상황을 인식해 스스로 추월할 수 있는 수준의 고도화된 자율주행 단계입니다.운전자가 개입하지 않기 때문에 사고 발생 시 운전자에게 책임을 묻기 어렵습니다.시스템 오류가 사고 원인이지만 현행법으로는 제조사를 처벌할 수 없습니다.

자율주행차가 사고를 냈을 경우 적용할 법에는 자동차손해배상보장법, 제조물책임법, 자동차관리법 등이 있습니다.그러나 이 법률들은 사람이 차를 운전했다는 것을 전제 조건으로 하고 있습니다.자율주행차 사고에 이 잣대를 맞추는 건 무리라는 게 법조계 인식입니다.제조물책임법은 일반 완성차 결함으로 사고가 발생했을 때 완성차 업체에 책임을 묻는 근거가 됩니다.다만 자율주행 시스템과 같은 소프트웨어는 제조물책임법상 제조물에 포함되지 않는 게 문제죠.

관련 이미지[출처: Pixabay] 법과 시스템의 ‘구멍’을 우려하는 목소리가 커지면서 각국 정부는 제도 정비에 나서고 있습니다.독일은 지난해 2월 세계 최초로 레벨4 자율주행 상용화 방안을 발표하면서 사고 발생 시 법적 책임 주체를 ‘기술감독관’으로 정했습니다.기술감독관은 자율주행차 상태를 외부에서 모니터링하면서 위험 신호 감지 시 자율주행 기능을 정지하는 등의 조치를 취하는 역할을 합니다.

일본은 올해부터 레벨4 자율주행차를 무인 대중교통 사업에 활용할 계획이라고 합니다.법무부는 자율주행 중 사고가 났을 경우 누구에게 책임을 물을지, 어떤 법을 적용할지를 검토하고 있습니다.

정부도 지난해 ‘자율주행차 규제혁신 로드맵 2.0’을 내놓고 관련 법규를 정비하겠다고 밝혔습니다.2024~2026년 중기 과제로 자율주행차 교통법규 위반에 대한 행정처벌을 사회적 합의를 거쳐 확립할 방침입니다.레벨4 자율주행 상황에서 사고가 발생할 경우 ‘제조사 책임’이라는 원칙도 명확히 하기로 했습니다.국토교통부·법무부·금융위원회는 보험체계 수립을 위해 자동차손해배상법과 제조물책임법을 개정할 계획이라고 합니다.

<자율주행차 사고사례>

① 구글 자율주행차

2016년 12월에 구글 자율주행차와 버스가 충돌하는 사고가 일어났습니다.사고 경위 보고서에 따르면 렉서스(RX450h)를 개조해 만든 구글 자율주행차는 본사 인근 왕복 6차선 도로에서 시험 주행 중 우회전 준비를 하고 있었습니다.그때 자율주행차는 도로 배수로 인근에 놓여 있던 모래주머니를 발견하고 잠시 멈춘 뒤 모래주머니를 피해 크게 우회전하려다 왼쪽 앞부분이 뒤쪽 차선에서 직진하던 버스의 오른쪽 측면과 충돌하는 사고가 발생했습니다.사고 당시 구글 차량은 시속 3.2㎞의 속도로, 버스는 24.1㎞의 속도로 주행 중이었습니다.

당시의 사고 사진

당시 자율주행차 인공지능(AI)은 컴퓨터와 차에 타고 있던 탑승자는 버스가 속도를 줄인다고 판단했다고 합니다.하지만 버스는 속도를 줄이지 않았고, 그 사고로 자율주행차 왼쪽 차체와 앞바퀴 등과 센서는 손상을 입었지만 인명피해는 없었다고 합니다.

구글은 “자율주행차가 움직이지 않았다면 버스와 부딪히지 않았을 것이기 때문에 우리에게 일부 책임이 있는 것은 명백하다”고 밝혔습니다.그러면서 “버스와 같은 차량은 다른 유형의 차량보다 양보할 확률이 낮다는 점을 이해했다”며 사고를 검토해 소프트웨어를 조정했다”고 덧붙였다.

② 테슬라 모델S

2016년 5월 테슬라 모델S 차량이 트레일러와 충돌해 운전자가 사망하는 사고가 발생했습니다.미국 당국의 예비조사 보고서에 따르면 사망사고는 미국 플로리다주 윌리스턴에서 측면이 흰색 대형 트레일러가 좌회전해 테슬라 전기차 앞을 지날 때 테슬라 차량이 멈추지 않고 트레일러 측면과 충돌하면서 발생했습니다.사고 지점은 중앙분리대로 분리된 고속도로 교차로입니다.

테슬라 측은 오토파일럿 시스템이 햇빛과 트레일러의 흰색을 구분하지 못해 사고가 났다고 설명했습니다.또 오토파일럿 상태에서도 운전자가 운전대를 잡고 있어야 한다는 매뉴얼을 따르지 않았다고도 했는데요.하지만 당시 전문가들은 오토파일럿 시스템 및 알고리즘의 신뢰도에 의문을 제기했습니다.주변 물체를 인식하는 카메라가 강한 햇빛 때문에 일시적으로 트럭을 인식하지 못했을 가능성은 물론 카메라를 보조하는 레이더의 신호 분석 오류가 한꺼번에 발생했을 수 있다는 주장이었습니다.

테슬라 모델 S. [출처: 나무위키] 테슬라의 전기차 모델에 적용된 오토파일럿 시스템은 미국 도로교통안전국이 정한 자율주행차 기술 단계의 3단계 정도에 해당합니다.3단계는 운전자가 필요 없는 완전 자율주행이 가능한 4단계 전 단계로 가속과 방향전환, 브레이크가 자동으로 이뤄지지만 긴박한 상황에서는 운전자의 개입이 필요한 단계입니다.

일론 머스크 테슬라 창업자는 최근 사망사고에 대해 “매뉴얼은 운전자가 만일의 사태에 대비할 수 있도록 오토파일럿을 이용하는 운전자들은 핸들에 손을 얹을 것을 권장하고 있지만 운전자가 이런 경고를 무시했다”고 해명했습니다.지금까지 ‘자율주행차 사고는 누구의 책임일까?’라는 주제에 대해 알아봤습니다!확실히 자율주행이라는 기술은 우리에게 많은 편의를 가져다주지만 도로 위는 항상 사고 위험이 따르는 곳이기 때문에 자율주행 기술로 인한 사고 가능성을 무시할 수 없습니다.앞으로 운전자의 개입이 필요 없는 자율주행 4단계, 5단계까지 발전하기 위해서는 확실한 법·제도적 변화가 수반돼야 완전한 발전이 이뤄질 수 있다고 생각합니다!

오늘도 솔이의 AI 스토리 포스팅을 봐주셔서 감사합니다!저는 앞으로 더 다양하고 흥미로운 AI관련 포스팅으로 인사드리겠습니다!!고마워요!!

error: Content is protected !!