2026 Bio-AI 오픈소스 감사 보고서: 10개를 점검해보니, "대부분은 돌아가지만 믿기 어려웠다."

Context

Bio-AI 도구의 LLM 기반 agent, skills, automation wrapper가 급속도로 확산되고 있으나, 검증 장치와 거버넌스가 크게 부족한 상태이다. 신약 개발 등 고위험 영역에서 책임 소재가 불분명하고 능력 확산 속도에 검증과 거버넌스가 따라가지 못하고 있다.

Technical Solution

• 감사 2단계 방식 도입: 1단계는 Technical Code Audit으로 저장소 구조, 엔트리포인트, 오케스트레이션 레이어, 실행 경로, 출력 경로 확인 및 README와 실제 코드 비교 수행
• STEM-AI v1.0.4 점수화 평가: S1 평가(README와 문서 무결성), S3 평가(코드 실체, 테스트, 변경 규율, 생물학적 무결성 장치) 구조적 확인 후 점수화
• 신뢰도 등급 체계 도입: T0(신뢰 미성립)부터 T4(높은 결과 책임 환경 연결)까지 5단계로 구분하며, T3를 감독된 파일럿 최소기준, T4를 더 높은 책임 환경 연결 최소기준으로 설정
• 구조 진단 중심 감사: README보다 실행 표면을 우선하고 문서와 코드 충돌 시 실행 기준으로 판단하여 재현 벤치마크보다 구조 진단에 집중
• 위험도 기반 심화 검토: 핵심 주장과 직접 연결된 부분 중심으로 감사하며 위험·모순이 큰 부분은 추가 심화 검토 수행

Impact

• AI-Scientist: 48점, T1 등급
• ClawBio: 63점, T2 등급 (최고 점수)
• 나머지 8개: 15~32점, T0 등급
• T3 이상 통과 저장소: 0개

Key Takeaway

Bio-AI의 근본 문제는 모델 능력 부족이 아니라 검증, 추적성, 책임 구조, 거버넌스의 부재이다. 주장과 출력의 재현 가능성, 경계 명확화, 기관 검토 가능한 구조 개선을 통해서만 신뢰 가능한 시스템으로 발전할 수 있다.