2019년 이래로 호주 산업 과학 자원부는 나라를 “안전하고 책임 있는” 인공지능(AI)의 선두주자로 만들기 위해 노력하고 있습니다. 이를 위해 “인간 중심 가치”, “공정성”, “투명성 및 설명 가능성” 등을 포함한 여덟 가지 AI 윤리 원칙에 기반한 자발적인 틀을 마련했습니다. AI에 대한 모든 국가 지침은 이 여덟 가지 원칙에 따라 비즈니스, 정부 및 학교가 이를 실천하도록 촉구하고 있습니다. 그러나 이러한 자발적인 원칙은 AI 시스템을 개발하고 배포하는 조직에 실제로 강력한 효과를 미치지 못합니다. 지난달 호주 정부는 다른 어조의 제안에 대한 논의를 시작했습니다. “자발적인 준수는 더 이상 충분하지 않다”고 인정하며, “고위험 환경에서 AI를 위한 의무적인 가이드라인”을 언급했습니다. 하지만 자율 규제의 핵심 아이디어는 여전히 남아 있습니다. 예를 들어, AI 개발자는 그들의 AI 시스템이 고위험인지 여부를 판단해야 하며, 이는 대규모 AI 시스템에 특유의 리스크를 고려해야 합니다. 이 높은 기준이 충족되면, 어떤 의무적인 가이드라인이 적용될까요? 대부분의 경우, 회사는 AI 윤리 원칙을 지키기 위한 내부 프로세스를 가지고 있음을 입증하기만 하면 됩니다. 그러나 호주가 AI에 대해 채택할 수 있는 다른 모델이 있습니다. 이는 국가 이익을 위해 중요한 기술인 유전자 기술에서 오는 것입니다. 유전자 기술은 유전자 변형 생물체를 기반으로 하며, AI와 마찬가지로 60% 이상의 인구가 우려하고 있습니다. 호주에서는 유전자 기술 규제 사무소에 의해 규제됩니다. 이 규제 기관은 농업 및 건강에서의 생명공학 붐을 대처하기 위해 2001년에 설립되었습니다. 이후 이 기관은 광범위한 결과를 초래하는 특정 기술에 초점을 맞춘 고도로 투명한 규제 기관의 모범 사례가 되었습니다. 유전자 기술 규제 기관의 성공에는 세 가지 특징이 있습니다. 첫째, 단일 임무를 가진 기관입니다. 이는 유전자 변형 생물체와의 거래를 규제하여 사람의 건강과 안전을 보호하고 환경을 보호합니다. 둘째, 정교한 의사결정 구조를 가지고 있습니다. 이를 통해 호주에서 유전자 기술의 각 응용에 대한 리스크 평가가 신뢰할 수 있는 전문 지식을 바탕으로 이루어집니다. 셋째, 이 규제 기관은 공공의 의견을 리스크 평가 과정에 지속적으로 통합합니다. 유전자 기술을 다루는 모든 거래는 승인을 받아야 하며, 야생으로 방출되기 전에 빈틈없는 상담 과정을 거쳐 검토와 감독이 극대화됩니다. AI 규제의 가장 큰 도전은 대중을 보호하는 것과 산업을 지원하는 것 사이의 균형을 찾는 것입니다. 유전자 기술에 대한 교훈은 새로운 기술을 규제하기 위해서는 인류와 환경에 해를 끼치는 사용의 역사가 없는 한, 혁신을 멈추지 않아야 한다는 것입니다. 실제로 규제는 혁신을 구하는 것입니다.