📌AI 대기업 안전규제 동의
아마존, 엔트로픽(Anthropic), 구글, 인플렉션(Inflection), 메타, 마이크로소프트 및 OpenAI 등
바이든 대통령의 압력에 따라 미국의 7대 주요 인공지능(AI) 기업들이 기술 발전에 대한 자발적인 안전장치에 동의했습니다. 아래 기업들은 인공지능의 잠재력을 경쟁하면서도 새로운 도구들의 위험을 관리하겠다고 약속했습니다.
아마존, 엔트로픽(Anthropic), 구글, 인플렉션(Inflection), 메타, 마이크로소프트 및 OpenAI 등 이 일곱 기업들은 금요일 오후 백악관에서 조지 루즈벨트 룸에서 바이든 대통령과의 회의에서 새로운 안전, 보안 및 신뢰 기준에 공식적으로 동의했습니다.
바이든 대통령은 “우리는 신기술에서 발생하는 위협에 대해 명확하고 경계심 있어야 합니다. 우리의 민주주의와 가치에 위협을 가할 수 있는 가능성이 있습니다.”라며 백악관 루즈벨트 룸에서 간단한 발언을 했습니다. 그는 이 기업들의 경영진과 함께 양쪽에 큰 잠재력이 있다고 말했습니다.
이러한 발표는 기업들이 인공지능 버전 경쟁에서 텍스트, 사진, 음악 및 영상을 인간 개입 없이 생성하는 강력한 방법들을 서로 경쟁하고 있는 상황에서 이뤄졌습니다. 그러나 이러한 기술적인 발전은 허위 정보의 확산과 인공지능의 정교함과 인간과의 유사성으로 인한 “멸종 위험”에 대한 우려를 불러일으키고 있습니다.
🛠AI발전을 걱정하는 이유 : AI의 단점, 한계점
- 편향성과 공정성 문제: 언어 모델은 그들이 학습한 데이터에 편향성을 반영할 수 있습니다. 이로 인해 성별, 인종, 문화 등과 관련된 편견이 모델에 반영될 수 있으며, 이는 공정성 문제를 일으킬 수 있습니다.
-> 이러한 문제는 가짜뉴스, 정치적혼란등을 가져올 수 있음 - 개인 정보 보호 문제: 언어 모델은 대규모 데이터를 사용하여 학습되므로 개인 정보 보호에 대한 문제가 발생할 수 있습니다. 민감한 정보가 노출되거나 오용 될 우려가 있습니다.
-> 웹사이트를 크롤링해서 데이터를 만드는 데, 부분별한 개인정보를 동의없이 수집하고 활용할 수 있는 위험이 있음
이러한 자발적인 안전장치는 인공지능의 개발에 대한 법적, 규제적 프레임워크를 마련하기 위한 워싱턴과 세계 정부들의 초기 단계일 뿐입니다. 이러한 협약은 제품들의 보안 위험을 테스트하고 소비자들이 인공지능으로 생성된 자료를 확인할 수 있도록 워터마크를 사용하는 등의 내용을 포함하고 있습니다.
그러나 법안 제정은 급속히 진보하는 기술과 빠르게 변화하는 기술들을 규제하는 데 어려움을 겪고 있습니다. 그리고 기업이 규제속에 있으면 기업에 입맛에 따라 기업을 밀어줄 수 있고 억압할 수 있기 때문에 규제의 목적이 세상의 효용만이여야하고, 정치적이익을 위해 사용되면 안됩니다. 하지만 이러한 규제는 바이든 대통령의 힘에 좌지우지할 수 있어 기업들이 눈치를 보며 사업을 하게 되어 사용자의 유익보다 미국국익에 초점이 맞춰질 수 있습니다.
백악관은 중국과 기타 경쟁국들이 새로운 인공지능 프로그램이나 개발에 사용되는 기술들을 통제하는 대통령 집행령에 대한 구체적인 세부사항을 아직 공개하지 않았습니다. 이 명령은 고급 반도체에 대한 새로운 제한과 대규모 언어 모델의 수출에 제한을 포함할 것으로 예상됩니다.
————📢더 많은 주식 코인 퀀트 정보 : https://quantpro.co.kr/————
About the Author
