JPMorgan과 Walmart에서 인공지능 보조원을 쓰는 이유 ㄷㄷㄷ

JPMorgan과 Walmart를 포함한 회사들이 처음에는 사용을 제한한 후 내부 세대 AI 보조원을 선택하는 이유
게시일 수요일, 8월 28일 2024 12:27 PM EDT
레이첼 커리

핵심 포인트
JPMorgan Chase와 Walmart와 같은 회사는 한때 직원들의 생성 AI 사용을 제한했지만, 이제는 이를 사용하도록 허용하고 있습니다.
가드레일이 장착된 내부 솔루션을 구축하면 개인정보 보호 문제를 해결하는 데 도움이 됩니다.
직원이 차세대 AI를 사용하는 데 따른 주요 위험에는 기밀 정보 유출, 환각, 업계 규정 준수 등이 있습니다.
이 기사에서

ChatGPT와 같은 생성적 인공지능 솔루션의 직원 사용을 제한한 지 18개월 만에 JPMorgan Chase CEO Jamie Dimon은 회사에서 직접 만든 AI 보조원을 출시했습니다 . 거의 완전한 순환 방식으로 이 솔루션은 ChatGPT의 제작자 OpenAI 의 기술을 기반으로 구축되었습니다 . LLM Suite라는 이름의 이 은행 대기업은 이미 보고서 작성 및 이메일 작성과 같은 작업을 위해 60,000명의 직원에게 이 서비스를 출시했습니다.

직원의 Gen AI 사용을 제한하는 것에서 가드레일이 장착된 내부 솔루션을 구축하는 것으로의 이러한 전환은 기술의 힘을 활용하려는 대기업과 중소기업을 막론하고 기업에서 공통적인 주제가 되고 있습니다. Cisco의 최신 데이터 프라이버시 벤치마크 보고서 에 따르면 조직의 4분의 1(27%) 이상이 적어도 일시적으로 공개 Gen AI 애플리케이션을 금지했으며 , 대부분의 기업은 직원이 사용할 수 있는 솔루션과 사용 방법을 제한했습니다.


한편, 최근 사이버 보안 회사 Extrahop의 설문 조사에 따르면 동일한 회사 중 다수는 직원들이 어차피 제한된 애플리케이션을 사용하는 경향이 있다고 답했습니다. 따라서 충분한 보호 기능을 갖춘 대체 솔루션을 제공하는 것이 분명히 필요합니다.

기업 데이터 관리 회사인 베리타스의 최근 보고서 에 따르면 , 직원들의 차세대 AI 사용에 대한 가장 큰 우려 사항은 기밀 정보 유출, 환각 , 업계 규정 준수 등입니다.

AI 플랫폼이 생성하는 출력은 허공에서 나오지 않습니다. 민감한 정보를 공개하는 것에 대한 우려와 관련하여 일부 대규모 언어 모델은 사용자 입력(gen AI 플랫폼이 응답하도록 채팅에 사람이 입력한 내용)을 저장하고 이를 사용하여 생성 AI 기능을 훈련하거나 개선합니다. 이는 회사 또는 고객에 대한 민감한 정보를 위험에 빠뜨릴 수 있으므로 많은 조직이 기술을 직접 관리하는 방법을 알아낼 때까지 금지 또는 제한을 선택합니다.


직원 AI에 대한 월마트의 접근 방식

JPMorgan은 Gen AI를 제한하는 것에서 사내로 도입하는 것으로 전환한 유일한 세계적으로 인정받는 회사가 아닙니다. 작년에 Walmart는 My Assistant를 50,000명의 직원에게 출시했고 그 이후로 11개국에서 25,000명의 직원에게 제공 범위를 확대했습니다 .

월마트의 Enterprise Business Services 부문 수석 부사장인 데이비드 글릭은 "우리는 AI 사용을 안내하는 원칙을 정의하는 데 적극적이었습니다."라고 말했습니다. 이러한 원칙에는 직원들이 무엇을 돕고 싶어하는지 듣는 것, 방대한 양의 정보를 요약하는 것, 회사 직원들이 직원 자원 계획(ERP) 시스템을 더 잘 탐색하도록 돕는 것, 특정 작업을 자동화하는 것이 포함되었습니다.

My Assistant가 광범위한 도달 범위를 가진 거대한 도구인 반면, Glick은 더 작고 더 정확한 프로젝트에도 집중하고 있습니다. 예를 들어, Walmart는 gen AI를 사용하여 모든 직원이 300페이지 분량의 혜택 가이드를 탐색하도록 돕는 Benefits Help Desk 팀을 돕고 있습니다. 팀원을 기능이 제한적인 오류 있는 챗봇으로 대체하는 대신, gen AI는 해당 팀원의 검색 및 지원 기능을 향상시키고 있습니다.

"세대 AI는 우리가 하향식으로 수행하는 작은 일들의 집합일 수 있으며, 이를 통해 직원들의 삶을 더 좋게 만들고 우리의 일상을 더욱 효율적으로 만들 수 있습니다."라고 글릭은 말했습니다.

데이터가 '외부'로 유출되는 것을 방지

IT 관리 서비스 제공업체인 Ensono는 Gen AI 도구에 대한 직원의 접근에 대한 생각을 바꾼 또 다른 회사입니다. 이 회사의 최고 기술 책임자인 Tim Beerman은 민감한 데이터를 보호하기 위해 ChatGPT와 같은 대규모 언어 모델의 직원 사용을 제한하기로 결정했습니다. 하지만 Beerman은 여전히 ​​"회사에 대한 방대한 양의 비정형 데이터를 활용하여 외부로 유출시키지 않고도 직원에게 가치를 제공하고자" 했다고 말했습니다.

Ensono는 여름 내내 3,500명의 모든 직원에게 내부 AI 어시스턴트를 출시했습니다. 이 솔루션은 GPT-4o 기반으로 구축되었지만 , 사용하려는 데이터 유형에 따라 다양한 언어 모델을 도입할 수 있는 유연성을 유지합니다. Beerman은 "우리는 직원에게 이러한 도구에 대한 단일 인터페이스를 제공합니다."라고 말했습니다.

그동안 Ensono는 근본 원인 분석, 제안 요청(RFP) 응답 등과 같이 보다 구체적인 사용 사례에 맞는 소규모 언어 모델을 개발하기 위해 부서별로 움직이고 있습니다. 이 모든 것에 대해 모델 유연성이 핵심입니다. Beerman은 "오늘 사실인 것이 12개월 후에도 사실이 아닐 것"이라고 말했습니다.

신생 소프트웨어 개발 회사 Varyence의 최고기술책임자(CTO)인 제이슨 히쉬메는 이전에 모든 차세대 AI 솔루션에 내부 데이터, 기밀 데이터 및 제한 데이터를 입력하는 것을 금지했습니다.

현재 Varyence와 함께 일하는 스타트업은 누군가가 이메일과 Word 문서와 같은 데이터를 만들 때 자동으로 데이터 분류를 촉구하는 내부 시스템을 사용합니다. 내부 gen AI 플랫폼에는 비공개 데이터를 안전하게 보호하기 위한 가드레일이 내장되어 있으며, 직원이 조작할 수 있는 수단 역할을 합니다.

히슈메는 Gen AI에 대해 "모두가 그것을 사용하고 싶어하고 그것이 어떻게 자기 부서의 효율성을 높이는 데 도움이 될 수 있는지 보고 싶어합니다."라고 말하며, 금지가 단지 붕대일 뿐이며 모든 규모의 회사는 결국 직원들이 작업할 수 있는 안전한 솔루션을 제공해야 하는 이유를 설명했습니다.

많은 회사가 Gen AI 금지에서 사내 도입으로 전환함에 따라 이 기술이 인력에 어떤 서비스를 제공하는지에 대한 전망도 바뀔 수 있습니다. 하지만 AI 시대가 급속한 혁신 속에서 개 시대와 비슷한 속도로 발전함에 따라 회사는 안전과 보안이 대화의 중심이 되더라도 Gen AI 정책을 구현하는 방법에 있어 유연해야 할 것입니다.

출처: https://www.cnbc.com/amp/2024/08/28/why-jpmorgan-and-walmart-are-opting-for-internal-gen-ai-assistants.html