특히 AI로 생성한 결과물에 대해 사람이 최종 검증하고 민감한 정보에 대해선 활용을 제한하는 원칙을 세운 점이 특징이다.
30일 업계에 따르면 삼성바이오로직스는 홈페이지 ESG 정책에 ‘AI 윤리정책’을 독립된 문서로 게시했다.
셀트리온은 올해 들어 AI 리스크 관리요소를 정립하고 대응체계를 마련했다. 유한양행은 지난해부터 AI 활용 가이드를 공개했다.
AI가 사람의 최종 판단을 대체하지 않도록 하는 게 공통점이다. 중요한 판단이나 업무 결과에는 임직원이 검토·개입하고 개인정보와 회사의 중요정보를 보호하며 AI 결과의 오류 여부를 확인하는 과정을 거치도록 했다.
한미약품(대표 황상연)이나 대웅제약(대표 박성수·이창재), JW중외제약(대표 신영섭·함은경) 등은 임직원 교육 및 자료 배포를 통해 AI 활용으로 생길 수 있는 보안 문제를 예방하고 있다. 다만 윤리 정책이나 가이드라인에 대해 세부내용은 외부에 공개하지 않고 있다.
AI 활용의 제한 업무를 명확히 했다는 점이 특징이다. 삼성바이오로직스 관계자는 “GMP 관련 업무에는 AI 활용을 제한하고 있다”며 “비GMP 영역에 대해 활용 가능성을 검토해 세부 가이드라인을 마련할 예정”이라고 밝혔다.
활용 금지 사례도 비교적 구체적으로 적시했다. 사람의 취약성을 악용하는 조작적 AI와 사회적 점수화, 무단 생체인식 감시 등 국내외 법규가 금지하는 AI 시스템은 개발·이용·배포하지 않는다는 원칙이다.
AI 사고가 발생하면 관련 부서가 사실관계와 영향 범위를 확인하고 필요한 대응을 검토한다. 중요 사안은 필요에 따라 경영진이나 ESG위원회에 보고·공유한다. ESG위원회는 정책의 총괄 책임과 모니터링을 담당하며, 정책은 연 1회 정기적으로 검토한다.
삼성바이오로직스는 3사 가운데 유일하게 환경적 책임을 별도 원칙으로 제시했다. 자체 또는 외부 AI 서비스를 이용할 때 발생하는 에너지 소비와 탄소발자국을 고려해 기술을 효율적으로 사용하도록 관리한다는 내용이다.
셀트리온은 올해를 AI 전환(AX) 원년으로 삼고 대표이사를 포함하는 AI위원회를 설립해 의사결정 체계를 정립했다.
셀트리온은 인간존중과 공정성, 안정성, 책임성, 투명성을 5대 AI 리스크 관리요소로 정했다. 개인정보 침해 가능성이 있는 업무에 대한 AI 접근을 제한하고, AI 결과에 영향을 미칠 수 있는 요인을 사전에 식별해 정기적인 편향성 테스트와 공정성 평가를 실시한다.
셀트리온은 데이터를 공개자료와 내부자료, 국가핵심기술, 개인정보 등으로 구분해 등급별로 관리한다. 국가첨단전략기술과 최고등급 보안문서는 외부 AI 서비스가 아닌 온프레미스 서버에 별도 AI 서비스를 두고 처리할 계획이다.
온프레미스는 AI 시스템과 데이터를 외부 클라우드가 아니라 회사가 직접 관리하는 내부 서버에서 운영하는 방식이다. 연구·생산자료 등 중요정보가 외부로 전송되는 위험을 줄이려는 조치다.
셀트리온은 유럽연합 AI법(EU AI Act) 등 국내외 규제를 파악해 사전 대응체계를 구축하고 사람의 개입과 감사로그를 남기는 방안도 제시했다. AI 생성 결과물임을 명확하게 표시하며 사실과 다른 답변을 생성하는 ‘환각’도 관리 대상으로 규정하는 등 신뢰성을 높이는 내용을 포함했다.
셀트리온 관계자는 "현재 AI 전담 조직을 중심으로 전사적인 정책 및 거버넌스 체계 구축하고 현업 부서에서 각자 업무 환경에 맞게 적용하는 방식으로 운영 중이다. 안전하고 신뢰성 있는 AI 활용을 위해 선제적으로 준비하는 과정에서 셀트리온은 AI 활용에 따른 위험 수준을 기준으로 관리체계를 구축하고 있다"고 말했다.
이어 "온프레미스 AI 도입과 관련해서는 안전성을 충분히 확보하며 점진적으로 시스템을 확장해 나갈 예정이다. 특정 모델에 국한하지 않고 보안성과 업무 효율성을 극대화할 수 있도록 여러 AI 모델의 활용 가능성을 폭넓게 열어두고 검토해 적용할 계획"이라고 설명했다.
유한양행의 가이드라인은 임직원이 생성형 AI를 업무에 사용할 때 지켜야 할 실무수칙에 초점을 맞췄다. 생성형 AI를 업무 효율성을 높이는 보조수단으로 명시했다.
특히 AI 결과물의 표절과 저작권 등 지식재산권 침해 가능성을 관리 대상에 포함했다. 생성형 AI로 작성한 문서나 콘텐츠를 외부에 활용할 때 오류와 권리 침해, 사실을 오인하게 할 가능성을 점검하도록 한 것이다.
유한양행은 AI위원회를 통해 사업부별 AI 도입·활용 현황을 점검하고, AI 이용 과정에서 정보보호 기준이 지켜지는지와 잠재적 위험요소가 있는지를 검토한다. 위원회는 기존에 적용하고 있는 정보보안 원칙이 일관성 있게 운영되도록 관리하는 것을 목표로 한다.
◆ 경영 전반에 AI 적용하며 통제 체계 마련
AI 통제 체계 구축은 AI를 경영 전반에 적용하면서 이뤄졌다.
삼성바이오로직스는 지난해 4월 완공된 5공장부터 디지털 트윈과 AI 기술을 적용해 공정 데이터를 기반으로 의사결정을 지원하고 있다. 또 AI 전담조직을 운영하고 자체 시스템인 ‘SBL AI Excellence’를 품질 데이터 검색에 활용하고 있다. AI 솔루션으로 생산공정의 미세한 변화를 실시간 감지하고, 머신러닝을 이용해 생산성과 연관된 공정 변수를 찾는 연구도 진행하고 있다.
이에 앞서 삼성SDS와 표준운영절차서와 품질기록을 자연어로 검색하는 시스템을 구축해 2024년부터 운영을 시작했다. 임직원이 AI에 질문하면 기존 데이터베이스와 입력한 문서를 참고해 답변과 근거 자료를 제시하는 방식이다.
셀트리온은 올해 신약개발과 제조, 사무를 AI 전환 3대 축으로 설정해 추진 중이다. 지난해 AI 신약개발 전담 조직을 신설해 표적과 후보물질 발굴, 검증 및 최적화에 AI를 활용하고 있다.
사무업무에서 셀트리온은 데이터 분석과 대시보드 구축, 인사이트 도출 등에 AI를 활용하고 있다. 전자문서관리시스템에 챗봇을 적용한 시뮬레이션에서는 문서 검색과 비교에 걸리는 시간이 기존보다 약 80~90% 단축될 것이라는 게 회사 측 설명이다.
셀트리온은 현업 직원이 업무 자동화 도구를 직접 만드는 방식과 신약개발·수율 최적화 등 전문 시스템을 개발하는 방식을 병행하는 ‘AX 투트랙 전략’을 추진하고 있다.
유한양행은 AI 활용에 있어 무게중심을 신약개발에 두고 있다. 자체 AI 신약개발 플랫폼 ‘유니버스(Yu-NIVUS)’를 통해 후보물질의 디자인과 스크리닝, 최적화 효율을 높이고 있으며 2027년 1분기 완성형 시스템 공개를 목표로 고도화 작업을 진행하고 있다. AI가 연구자의 의사결정을 지원하고 초기 탐색 단계의 시행착오를 줄이는 도구로 활용한다는 방침이다.
[소비자가만드는신문=정현철 기자]
