Proven by Intelligence
보이지 않는 안전을 인텔리전스로 증명하다.
기술 인사이트를 만나보세요.
최근 몇 년 사이 자동차 기술은 눈부시게 발전했습니다.
차선 유지 보조, 자동 주차, 앞차와의 거리를 조절하는 어댑티브 크루즈 컨트롤 등 첨단 운전자 보조 시스템(ADAS)은 이제 많은 차량에 기본적으로 탑재되고 있으며, 완전 자율주행 자동차 시대도 멀지 않은 듯 합니다.
자동차가 스스로 주변 환경을 인식하고 판단하며 움직이는, 그야말로 ‘똑똑한 자동차’의 시대입니다.
그런데 여기서 한 가지 중요한 질문이 생깁니다.
“자동차 시스템이 고장 나지 않고 정상적으로 작동하는데도 위험한 상황이 발생한다면 어떨까요?”
예를 들어, 자동 긴급 제동 시스템(AEB)의 카메라 센서가 도로 바닥에 그려진 특정 3D 착시 그림을 실제 장애물로 오인하여 갑자기 급제동을 하는 상황을 떠올려 보세요. 차량 시스템의 어떤 하드웨어나 소프트웨어도 고장 나지 않았지만 의도된 기능 자체가 불완전하여 위험한 결과가 초래될 수 있는 것입니다.
이러한 새로운 안전 문제를 이해하기 위해 우리는 ‘기능안전’과 ‘SOTIF’라는 두 가지 핵심 개념을 알아야 합니다.
기능안전 vs SOTIF
전통적인 임베디드 시스템은 ISO 26262의 ‘기능안전(Functional Safety)’이라는 개념에 기반합니다. 이는 차량의 전자/전기 시스템에 고장이 발생하더라도 안전을 유지하는 것을 목표로 합니다. 예를 들어, 브레이크 센서가 고장 나더라도 시스템이 이를 감지하고 안전한 상태로 전환하는 것이 기능안전의 영역입니다.
하지만 자율주행, AI 기반 표적 인식 시스템 등은 완전히 새로운 문제를 발생시킵니다.
“시스템은 전혀 고장 나지 않았는데, 왜 위험한 상황이 발생하는가?”
이 질문이 바로 SOTIF의 출발점입니다.
AI 기반 시스템은 스스로 보고, 판단하고, 실행합니다. 이 과정에서 하드웨어나 소프트웨어의 고장이 없어도, 기능 자체의 성능 한계나 예상치 못한 외부 환경, 혹은 사용자의 오용 때문에 사고가 발생할 수 있는 것입니다.
📌 사례 1:
자율주행차가 햇빛 역광 때문에 차선을 오인하거나, 학습 데이터에 없던 새로운 형태의 장애물을 인식하지 못하여 충돌하는 경우
📌 사례 2:
AI 표적 인식 시스템이 훈련 데이터에 없던 특수한 위장 패턴을 한 적군을 아군으로 오인하는 경우
두 사례 모두 시스템 자체는 정상 작동했지만, 의도된 기능이 특정 상황에서 불완전하여 위험을 초래한 것입니다.
이처럼 “의도된 기능이 불완전하여 발생하는 위험”을 다루는 것이 바로 SOTIF(Safety Of The Intended Functionality; 의도된 기능의 안전)의 핵심입니다.
기능안전과 SOTIF의 핵심 특징
기능안전 (Functional Safety)
🔍안전의 대상 : E/E 시스템의 오작동 (Malfunction)으로 인한 위험
📌 원인 : 하드웨어 고장, 소프트웨어 결함
🛠️ 주요 검증 기법 : 정적 분석(MISRA, CWE, 코드 메트릭 등), 동적 시험(코드 커버리지 측정)
SOTIF (Safety Of The Intended Functionality)
🔍안전의 대상 : 의도된 기능의 성능 한계 또는 불완전함으로 인한 위험, 사용자의 예견 가능한 오용으로 인한 위험
📌 원인 : 센서의 성능 한계, AI 알고리즘의 예측 실패, 예상치 못한 외부 환경 변화 등 (고장이 아님)
🛠️ 주요 검증 기법 : 시나리오 기반 테스트, 데이터 기반 검증, 탐색적 테스팅, 시뮬레이션
기능안전과 SOTIF에 대하여 간단히 알아보았습니다.
그렇다면 둘 중 어떤 개념이 더 중요한 것일까요?
답은 다음과 같습니다.
기능안전과 SOTIF는 상호보완적이다.
만약 아무리 완벽하게 학습된 AI와 뛰어난 성능을 자랑하는 센서가 있다 하더라도, 코드 단계에서 기본적인 결함이 존재하는 시스템에 탑재된다면 안전을 보장할 수 없습니다.
마찬가지로 완벽한 소프트웨어와 하드웨어를 탑재한 시스템이라도 AI 모델이나 센서가 편향된 데이터로 학습했거나 미처 학습하지 못한 상황(Edge case)을 마주해 오작동한다면 시스템의 신뢰성은 무너집니다.
이처럼 갈수록 복잡해지고 자율성이 늘어나는 최근의 임베디드 시스템에서는 두 가지 개념이 유기적으로 함께 적용될 때 비로소 시스템의 안전을 온전히 보장할 수 있습니다.
출처 : ISO-26262:2018, ISO-21448:2022
MDS인텔리전스는 다양한 산업군에서의 오랜 경험을 바탕으로 검증된 솔루션과 소프트웨어 검증 서비스를 제공하고 있습니다.
검증 도구 도입 또는 컨설팅이 필요하다면 아래로 문의해 주시기 바랍니다.
📧 swtest@mdsit.co.kr ✍️ 문의남기기
