‘엣지’에 AI를 접목시킴으로써 얻을 수 있는 혜택은 다각적이다. 레이턴시를 줄이고 네트워크 비용을 아낄 수 있는 것은 물론, 보안을 개선할 수 있다. 기업에 따라서는 분산 AI의 위력을 누릴 수 있기도 하다.
AI는 더 이상 중앙의 대형 데이터센터에 국한되지 않는다. 전구부터 자동차까지 많은 것들에 ‘스마트’라는 수식어가 붙는다. AI 기능성을 엣지(Edge)에 적용함으로써 기업들은 지연 속도를 낮추고 성능을 개선하며 대역폭 요건을 낮추고 장치가 네트워크 연결이 없는 상황에서도 계속 작동하도록 할 수 있다.
엣지에서 AI를 사용하게 하는 주요 동인 중 하나는 현장에서 처리되는 데이터를 중앙의 클라우드 컴퓨팅 솔루션과 전통적인 데이터센터에서 처리하는 경우 데이터 물량 때문에 네트워크 속도가 느려지기 때문이다.
부즈 앨런 해밀턴(Booz Allen Hamilton)의 부사장 키 리는 “처리를 위해 모든 데이터를 중앙의 클라우드로 전송해야 하기 때문에 네트워크 대역폭과 지연 속도의 한계가 높아졌다”라고 말했다. AI 지원 엣지 컴퓨팅(AI-enabled edge computing)의 시대가 열리고 있다.
Image Credit : Getty Images Bank
봇(Bot)과의 전쟁
아카마이(Akamai)만큼 이 문제를 체험하는 기업은 드물다. 아카마이는 전 세계에서 가장 큰 콘텐츠 유통 네트워크를 운영하고 있다. 최근 조사에 따르면 135개 이상의 국가에서 약 32만 5,000대의 서버로 매초마다 100Tb 이상의 웹 트래픽을 제공하고 있었다.
엣지 컴퓨팅은 성능과 보안을 개선하는 열쇠라고 아카마이의 글로벌 제품 및 산업 마케팅 부사장 아리 웨일이 말했다. ‘봇’이 대표적이다.
“봇들은 인터넷에서 엄청난 문제가 되고 있다”고 웨일이 말했다. 이것들은 자동화된 크리덴셜 스터핑(Credential Stuffing)과 서비스 거부 공격으로 고객들을 공격한다. 또한 쓸모 없는 트래픽으로 파이프를 막아 아카마이에 비용을 발생시킨다.
사이버 범죄자들도 봇을 사용하여 기업과 조사기관 및 의료기관들의 방어선에 침투하려 하고 있다. 이용 한계 또한 확장되고 있다. 예를 들어, 해커들은 최근에 표 되팔이에서와 마찬가지로 코로나19에도 봇을 사용하여 백신 어포인트먼트 슬롯(Appointment Slot)을 낚아했던 바 있다.
아카마이는 시간당 4억 8,500만 회의 요청과 매일 2억 8,000만 회의 봇 로그인 시도를 경험하고 있다. 이 전쟁에서 승리하기 위해 아카마이는 2018년 엣지에 AI를 배치하여 특정 사용자가 실제 인간인지 아니면 봇인지 판단하기 시작했다.
그는 “그리고 우리는 스텝업 챌린지(Step-up Challenge) 등 즉각적인 조치를 취한다. 예를 들어, 우리는 브라우저가 특정 작업을 하도록 하는 자바스크립트 챌린지가 있다. 브라우저가 실제 브라우저가 아닌 경우 그 작업을 할 수 없다. 그리고 우리는 컴퓨팅 비용을 크게 높여 봇 운영자를 파산시키려 시도하고 있다”라고 말했다.
2019년, 아카마이는 중앙의 딥러닝을 사용하여 봇 행동을 식별하고 더 나은 머신러닝 모델을 개발하기 시작했다. 그리고 이런 모델을 엣지로 배치하여 실제 작업을 수행하게 한다.
AI를 사용하여 아카마이에서 위협 정보를 분석하기도 한다. 웨일은 “이것은 빅데이터 문제이다. 우리는 거대한 데이터 레이크에서 엄청난 양의 데이터를 가져다가 다양한 모델을 적용하여 악의적인 서명을 찾는다. 우리가 패턴을 식별하면 이를 플랫폼 전반에 걸쳐 사용할 수 있다”라고 말했다.
예를 들어, 때로는 메시지가 무해하지만 악의적인 출처로부터 발생하는 명령 및 통제 트래픽인 경우도 있다. 웨일은 “우리는 엣지 모델을 훈련하여 이 특정 지역 또는 특정 IP 주소에서 오는 트래픽을 인식하고 완화 기법을 엣지에서 즉시 적용한다”라고 말했다.
그 결과, 아카마이는 봇 또는 맬웨어의 트래픽을 처리할 필요가 없기 때문에 돈을 절약하게 된다. 고객들은 낭비되는 대역폭의 비용을 지불할 필요가 없기 때문에 돈을 절약한다. 그리고 고객들은 처리할 봇과 맬웨어 샘플이 줄어들기 때문에 더욱 안전하다.
2020년 3/4분기에 아카마이는 18억 6,000만 회의 애플리케이션 수준 공격을 중단시키고 700억 회 이상의 크리덴셜 남용 공격을 차단할 수 있었다고 웨일이 말했다.
엣지 IoT 관리하기
엣지에 AI를 적용하면 사물인터넷(IoT) 활용 사례에서 데이터와 네트워크 부하를 낮출 수 있다. IoT 장치는 많은 양의 정보를 생성할 수 있지만 그 정보가 일상적이고 반복적인 경우가 많다.
웨일은 “(IoT 장치의 경우) 많은 ‘정상’ 메시지를 생성한다. 그래서 이 모든 것을 추려 시스템에 문제가 있을 수 있다는 신호를 찾는 것이다. 그러려면 제조사에게 가야 한다”라고 말했다.
머신러닝 기술을 엣지에 배치하여 중요한 신호가 무엇인지 학습하면 데이터를 고객에게 전송하기 전에 처리하도록 할 수 있다. 커넥티드 카(Connected Car)를 예로 들 수 있다.
하나의 셀(Cell) 구역과 타워에서 다른 셀 구역과 타워, 주, 다른 고도 및 기후 등으로 이동한다. 한 지역에 적절한 판독값이 다른 곳에서는 적절하지 않거나, 급격한 데이터 변화로 문제를 알릴 수 있다. 여기에서 머신러닝이 필요하다.
IEEE 회원이자 센트릭 컨설팅(Centric Consulting)의 클라우드 및 신기술 활동 책임자 카르멘 폰타나는 “엣지 기기에 지능성을 부여하는 움직임이 현재 IoT 분야에서 가장 두드러진다”라고 말했다.
특히 자동차 산업에서는 지연 속도에 대한 요구가 크다. 그녀는 “메인 데이터센터로 가서 결정을 내리고 다시 전달하는 것은 좋지 않다. 그럴 시간이 없다”라고 말했다. 하지만 느리게 이동하거나 정지한 장치에서도 엣지에서 추가적인 처리 능력이 도움이 될 수 있다.
그녀는 “보편적인 예가 원거리에 소재한 태양 전지이다. 이것들은 좋은 셀 서비스나 WiFi가 없다. 로컬 상태로 데이터를 처리하고 결정을 내릴 수 있는 능력이 정말 중요하다”고 말했다.
분산된 지능성을 통해 기업들은 장치로부터 반환되는 메시지 트래픽의 양을 줄여 네트워킹 비용과 에너지 사용량을 줄일 수 있다. 그녀는 “데이터 저장은 비용이 높고 에너지 효율적이지 않다 전송하거나 저장해야 하는 많은 데이터를 없앨 수 있다면 에너지를 절약할 수 있다”라고 말했다.
장치에 차별화된 기능을 제공하기 위해서도 점차 엣지에서 AI가 활용되고 있다. 폰타나는 “내 손목에는 스마트 워치와 회복 장치가 있다. 회복 장치는 심박수와 호흡 패턴 등 나의 지표를 감지한다. 내 신체가 얼마나 회복했는지 그리고 다음 운동 시 얼마나 열심히 해야 하는지 계산한다”라고 말했다.
분산된 AI의 이점
엣지에 있는 AI 기능은 네트워크 장치 전반에 걸쳐 정보 분산형 컴퓨팅 환경을 만드는 데 도움이 되며, 이를 활용하는 방법을 아는 조직에게는 특별한 이점이다.
유틸리티 산업은 특히 분산형 정보에 관심이 많다고 에너지 및 수자원 관리 기술 기업 이트론(Itron)의 정보 관리 실적 책임자 팀 드리스콜이 말했다. 그는 “유틸리티 배전 그리드 엣지에 있는 측정기는 보편적인 스마트폰 모델과 유사한 앱 플랫폼이 있다. 이런 측정기는 머신러닝을 활용하여 다양한 전압 및 부하 조건에 대응한다. 이를 통해 측정기가 그리드 통제를 위해 선제적이고 실질적인 권고사항을 제공할 수 있다”라고 말했다.
하지만 더욱 흥미로운 점은 측정기가 서로 협력하여 스스로의 통신 네트워크 행동, 성능, 신뢰성에서 학습한 후 이를 활용하여 대표로 네트워크와 통신하는 리더를 선발한다는 것이다. 그는 “이를 통해 중앙 분석이 필요 없어져 네트워크 관리가 간소화된다”라고 말했다.
그리고 전력 시스템이 발전하여 배전 그리드에 있는 더욱 분산된 전력 발전을 포함하게 되면서 엣지 컴퓨팅이 더욱 중요해진다. 전통적으로 전력 네트워크의 변수는 로컬 부하뿐이었으며, 발전과 전력 흐름은 모두 중앙에서 통제했다. 지금은 이 3가지가 모두 변수이다.
드리스콜은 “이것이 엣지 프로세싱 및 머신러닝을 이용한 자율적 실시간 대응의 주된 동인이다”고 말했다.
향상된 지연 속도와 낮은 비용 외에도 AI와 머신러닝을 엣지에 적용하면 AI가 더 빨라질 수 있다고 부즈 앨런 해밀턴의 리가 말했다. 그 이유는 분산된 엣지 AI가 모델을 캘리브레이션 하는 빈도를 극대화하여 “모델 개발 비용과 일정이 절감될 뿐 아니라 모델 성능이 높아지기 때문”이라고 그가 말했다.
위험과 문제
하지만 엣지에서의 AI는 위험과 문제도 존재한다고 리가 말했다. 여기에는 현재 표준이 없다는 문제가 포함된다.
리는 “일반적으로 다양한 엣지 하드웨어 장치, 프로세서 칩, 센서, 데이터 형식, 프로토콜이 호환되지 않는다”고 말하면서 보편적인 개방형 아키텍처 개발이 요구된다고 지적했다.
실제로 이 분야의 많은 기업들이 확장 또는 상호운용이 불가능한 일회성 솔루션에 집중하거나 전통적인 소프트웨어 제공 모델에 기반하고 있다.
그는 “여전히 특정 장치 전용으로 개발된 단일 애플리케이션들이 등장하고 있다. 디자인 관점에서 일반적인 허브-스포크 아키텍처도 보이고 있다”라고 말했다. 이런 방식은 연결이 제한되면 문제가 발생할 수 있다.
분산된 AI의 또 다른 문제점은 사이버 보안이다. 그는 “배치된 엣지 장치의 수 때문에 공격 표면이 크게 증가한다”고 말했다. 이미 공격자들이 2016년에 수십만 개의 장치를 감염시켰던 미라이(Mirai) 봇넷 등 안전하지 못한 IoT 장치를 이용하고 있다. IoT 장치가 확산되고 더 스마트해지면서 이로 인한 위험도 증가할 것이다.
머신러닝을 문제에 적용하고 이를 활용하여 위협을 감지하는 것이 하나의 접근방식이다. 하지만 엣지 하드웨어는 일반적으로 더 작고 리소스가 더 제한되기 때문에 데이터 처리량이 제한적이라고 리가 말했다.
AI 기반 엣지 컴퓨팅은 마이크로 데이터센터에서 사이버 보안에 큰 차이를 보일 수 있다고 캡제미니(Capgemini)의 엔지니어링 및 R&D 사업 연결성 CTO 샤믹 미슈라가 말했다. 그는 “위협 감지, 취약성 관리, 경계 보안, 애플리케이션 보안을 엣지에서 해결할 수 있다”고 말했다. AI 알고리즘을 분산시켜 이상 감지를 통해 위협을 감지할 수 있다.
보안 액세스 서비스 엣지 등의 신기술도 등장하고 있다고 미슈라가 말했다. 광역 네트워크를 보안 기능과 결합시키는 것이 한 예다. 그는 “우리가 기능을 분산시킬수록 공격 가능 표면적이 증가하면서 시스템이 더 취약해진다. 따라서 엣지 컴퓨팅 애플리케이션은 보안을 디자인 우선순위로 두어야 한다”라고 말했다.