기후부, '에너지·먹는물' AI 도입시 '인간 개입 체계' 의무화

 

기후에너지환경부가 에너지나 식수와 관련한 인공지능(AI) 서비스를 도입할 때 사람이 서비스를 즉각 중지하거나 개입할 수 있는 관리체계를 갖췄는지 확인하기로 했다.

21일 기후부가 마련한 AI 윤리 원칙 자율점검표를 보면 기후부는 에너지 공급과 먹는 물 생산 공정 등과 관련한 '고영향 AI' 서비스를 도입할 경우 '인간의 즉각적인 개입·중지·검토'가 가능한 관리체계를 갖췄는지 확인하도록 했다.

도입 전에는 도입 시 영향을 미리 파악하고 영향의 예방·완화·손실복구 등 대응체계를 구축했는지 점검하도록 했다.

고영향 AI는 사람의 생명과 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 말한다.

기후부 AI 윤리 원칙 자율점검표는 행정안전부가 작년 11월 마련한 '공공부문 AI 윤리 원칙'을 기후부에 맞게 조정한 것이다.

기후부는 인간의 개입·중지·검토가 가능한 관리체계를 AI가 자율적으로 의사를 결정할 수 있도록 맡기는 경우(3단계)에 요구하기로 했다. 공공부문 AI 윤리 원칙은 AI를 어느 정도 수준으로 도입하느냐에 따라 요구사항이 다르다.

기후부는 모든 AI 서비스를 도입할 때 '탄소중립 실현과 기후위기 대응, 에너지 전환 등 환경적 가치'와 '기후재난 대응과 환경 관리, 에너지 수급 등에서 효과성'을 증진하는 데 이바지하는지 확인하기로 했다.

또 AI 서비스가 현세대뿐 아니라 미래세대도 고려했는지 점검한다.

민감정보를 활용할 경우 법령과 절차를 지켰는지 확인하도록 했는데, 민감정보 예시로 '환경 보건 건강 정보'와 '개인 에너지 소비 패턴', '위치 정보'를 제시했다.

3단계 AI 서비스에 대해선 '기후·에너지·환경 분야에서 지속가능성 제고'와 '미래세대 보호'에 기여하고 '에너지 사용과 온실가스 배출 등 환경 영향' 및 '이해관계자와 갈등'을 고려했는지 추가로 확인하도록 했다.

아울러 AI를 도입해 생기는 환경적 편익과 혜택이 기후·에너지·환경 취약계층과 지역에 균형 있게 제공되는지도 고려하도록 했다.

기후부 AI 윤리 원칙 자율점검표는 오는 10월 시행될 예정이다.