캘리포니아 최신 AI 규제, 업계 반발 속 진전

캘리포니아는 새 법안인 SB 53을 통해 인공지능(AI) 규제 수립을 또 다시 시도하고 있습니다. 이는 가빈 뉴섬 주지사가 이전 법안 SB 1047을 강력한 반대속에 거부한 후, AI 스타트업과 벤처 투자가들의 우려를 반영하여 안전 규제 도입을 추진하는 두 번째 노력입니다. 이 법안은 특히 AI 산업의 핵심 역할을 감안할 때, AI 개발이 혁신적이면서 책임감 있게 이루어지도록 하는 것을 목표로 하고 있습니다.

SB 1047의 저자인 스콧 와이너 상원 의원은 업계의 우려와 최첨단 AI 모델에 대한 새로운 정책 작업 그룹의 지침에 따라 법안을 수정했습니다. 업데이트된 법안은 특정 고성능 AI 모델을 개발하는 기업이 긴급 구조 기관에 기밀 위험 평가서를 제출하도록 요구하며, 이는 사용자에게 오해를 불러일으킬 수 있는 모델 구축과 관련된 책임을 높이기 위한 조치입니다.

위험 평가뿐만 아니라 SB 53에는 캘리포니아 대학에 CalCompute라는 공공 클라우드 컴퓨팅 자원을 구축하는 내용도 포함되어 있습니다. 이 시설은 스타트업과 학술 기관에 저렴한 컴퓨팅 접근성을 제공하여 혁신을 촉진하면서 AI 개발의 안전성을 유지하려는 목적입니다. 법안의 최종 표결은 곧 이루어질 예정이며, 수정안이 통과될 것이라는 기대가 높아지고 있습니다.

캘리포니아의 SB 53는 철저한 AI 안전 규제 수립을 목표로 하고 있습니다.

AI 규제에 대한 관심은 기술 분야가 다양한 압력을 받고 있는 시기에 집중되고 있습니다. 혁신과 투자 수익을 추구하는 기업들뿐만 아니라, 보안, 윤리, 투명성에 관한 우려도 높아지고 있으며, AI 시스템의 실패 및 취약성을 보여주는 사건들이 잇따르면서 강화된 감독의 필요성이 부각되고 있습니다.

관련 소식으로, 캘리포니아의 AI 생태계는 생성형 AI 기술에 중점을 둔 스타트업에 대한 막대한 투자를 받고 있습니다. Replit과 Anysphere와 같은 회사들은 벤처 자본가들의 관심을 끌며 수억 달러의 투자를 유치하고 있으며, 이들 기술은 사용자들이 간단한 구두 명령으로 코드를 생성할 수 있는 솔루션을 제공하고 있습니다. 이 기술이 개발 과정을 간소화하는 동시에 잠재적 보안 위험도 제기하고 있습니다.

잘못된 코드 생성으로 인한 보안 위반 사례도 이미 드러났으며, 이러한 위험에도 불구하고 투자자들은 이 코딩 도구들의 장기적인 가능성을 믿고 있습니다. 예를 들어 Replit은 최근 2억 5천만 달러를 조달했으며, 회사의 가치도 세 배로 늘어났습니다. 앞으로 AI 코딩 도구의 영향력은 소프트웨어 개발 분야에서 혁신적인 힘으로 여겨지며, 성장을 위한 고충도 계속될 전망입니다.

한편, 애플을 비롯한 주요 기술 기업들은 자사 제품에 고급 AI 기능을 통합하고 있습니다. 애플은 최근 무선 번역 기능이 탑재된 AirPods Pro 3를 발표하며, 경쟁력을 유지하기 위한 노력의 일환으로 AI를 활용한 혁신을 추진하고 있습니다.

애플의 AirPods Pro 3는 AI 기반 실시간 번역 기능을 갖추고 있습니다.

이러한 규제와 제품 혁신의 발전은 캘리포니아에서 AI 산업이 빠르게 변화하는 환경을 보여줍니다. 혁신을 촉진하면서도 안전을 확보하는 균형을 찾기 위해 정책 입안자들이 선제적으로 대응하는 것이 더욱 중요해지고 있습니다.

결론적으로, SB 53을 통한 캘리포니아의 AI 규제 추진은 AI 개발의 복잡성을 해결하는 데 중요한 단계입니다. 기술 선도국인 이 지역의 이러한 입법 노력이 향후 전국적 차원의 AI 거버넌스 논의에 영향을 미칠 것으로 기대되며, 공공과 민간 부문 모두에서의 신중한 검토와 조치를 통해 AI의 미래 방향성을 모색하는 것이 중요해지고 있습니다.