데이터센터의 '보모': 연봉 6만 6천 달러부터, 하루 3만 보로 AI 연산력을 지키다

글: 저우샤오옌(周小燕)

Digital Realty 애슈번 데이터센터 수석 엔지니어 제임스 워디. 이미지는 AI 처리됨

제임스 워디(James Waddy)는 매일 3만 보를 걷는다.

그의 근무지는 버지니아주 애슈번에 있는 9만 제곱미터가 넘는 데이터센터다. 매일 그는 공기 처리 설비, 서버룸, 배관, 케이블, 옥상 응축기를 점검하고, 때로는 타는 냄새가 나는지 맡아보고, 배관에 이상이 없는지 만져보고, 새가 설비를 쪼아 망가뜨리지 않았는지도 살펴봐야 한다.

이런 일들은 언뜻 AI와 큰 관련이 없어 보이지만, 바로 이곳이 AI 연산력이 최종적으로 착지하는 장소다.

지난 1년간 사람들은 AI 인프라를 이야기할 때 GPU, 발전소, 변압기, 토지, 자금 조달, 수천억 달러의 자본 지출에 더 주목했다. 하지만 실제로 데이터센터 안으로 들어가 보면, 이곳은 단순한 연산 산업이 아니라 24시간 쉬지 않고 돌아가야 하는 거대한 물리적 시스템이라는 사실을 알게 된다.

미국에는 현재 약 2700개의 가동 중인 데이터센터가 있다. AI가 불러온 연산 수요 증가에 따라 새로운 시설이 계속 건설되고 있으며, 전력·냉각·네트워크 등 시스템에 대한 요구도 점점 높아지고 있다.

그리고 이런 시스템 뒤에는 오랫동안 이를 지키는 사람들이 필요하다. 이들은 AI 모델을 연구하는 엔지니어도, 대형 모델을 훈련하는 사람도 아니지만, 서버가 있는 건물이 과열·정전·설비 고장 혹은 광섬유 한 가닥의 문제로 멈춰 서지 않도록 해야 한다.

어떤 의미에서 이들은 AI 시대의 '보모'에 더 가깝다.

3만 보 순찰: 데이터센터에는 '사소한 문제'가 없다

워디는 디지털 리얼티 트러스트(Digital Realty) 애슈번 데이터센터의 수석 엔지니어로, 이곳에서 3년째 일하고 있다.

워싱턴 서부 애슈번에 위치한 Digital Realty 데이터센터

그는 경영학 학위를 갖고 있으며, 이전에는 한 공조(HVAC) 회사에서 영업직으로 일했다. 야간 근무부터 시작해 승진을 거듭해 지금은 수십 명의 엔지니어를 관리하며, 스스로를 팀의 '장군'이라고 부른다.

그의 주된 업무는 데이터센터의 핵심 인프라가 계속 가동되도록 보장하는 것이다. 매일의 순찰은 공기 처리실에서 시작되는데, 거대한 냉방 설비가 데이터센터 안으로 쉴 새 없이 냉기를 보낸다.

Digital Realty 애슈번 데이터센터의 임대 설비에는 어떤 고객 표시나 명칭도 없다

위로 더 올라가면 데이터 홀은 마치 거대한 탈의실처럼 보인다. 서버들이 줄지어 랙이나 케이지 안에 들어가 있고, 여러 기업이 이를 임대해 사용한다. 이곳에서는 고객의 로고를 볼 수 없고, 서버가 누구의 것인지 구분하기도 어렵다. 경쟁사의 설비가 랙 한 줄을 사이에 두고 동시에 가동되고 있을 수도 있다. 서버에 가까워질수록 굉음이 뚜렷해져 직원들은 귀마개를 착용해야 한다.

Digital Realty 애슈번 데이터센터의 설비

계속 위로 올라가면 옥상이다. 워디는 줄지어 늘어선 응축기를 점검하며 설비에 고장이 없는지 확인하고, 새가 일으킨 손상도 살펴봐야 한다. 옥상에 서면 멀리 크레인이 보이는데, 다른 회사의 데이터센터가 건설 중인 것이다.

"여기 위는 괜찮네요." 워디가 말했다. "저는 이런 순찰이 좋아요."

이 데이터센터는 9년째 가동 중이며, 복도가 길어 일부 기술자들은 스쿠터를 타고 이동한다. 안에는 높이 솟은 케이블 케이지도 있고, 악천후 기간에 상주하는 직원들을 위한 간이 침대와 샤워 시설도 있다.

때로는 현장에 최대 120명이 있을 수 있는데, 정규 직원은 약 50명이고 나머지는 계약직 경비 인력과 고객 파견 인력이다. 하지만 그럼에도 거대한 건물 안에는 평일에도 비어 있는 방이 많다.

워디의 직책은 '엔지니어'로 불리지만, 구체적인 업무 내용을 보면 전통적인 의미의 연구개발(R&D)이나 설계 엔지니어와는 다르다.

테크 분야 분석가 윈스턴 스미스(Winston Smith)는 이런 직군이 핵심 시설 기술자(CFT)나 데이터센터 운영 기술자(DCO Technician)에 더 가깝다고 지적한다. 핵심 업무는 현장 순찰, 인프라 유지보수, 비상 대응이다.

그는 워디가 매일 청각·후각·촉각에 의존해 이상을 발견하는 것은 본질적으로 데이터센터의 '인간 센서' 역할을 하는 것이라고 본다. 즉, 모니터링 시스템이 경보를 울리거나 설비가 실제로 고장 나기 전에 기계·전기·냉각 시스템에 있을 수 있는 문제를 먼저 발견하는 것이다.

이런 일은 자질구레해 보이지만 어떤 세부 사항도 놓칠 수 없다. 데이터센터가 가장 두려워하는 것은 바로 예상치 못한 일이기 때문이다. 대형 설비의 갑작스러운 입고, 보조 시스템의 고장, 심지어 사소해 보이는 이상 하나까지도 시설의 이중화(리던던시)와 유지보수 일정에 영향을 줄 수 있다.

따라서 워디에게 이른바 '좋은 날'이란 큰 문제를 얼마나 많이 해결했느냐가 아니라, 아무 문제도 일어나지 않은 날이다.

워디는 이중 바닥 위를 걷는다. 아래의 공간에서는 서버의 열을 식히기 위해 공기가 순환하고 있다. 그는 걸으면서 설비를 점검한다. 이상한 소리도, 이상한 냄새도 없다. 모든 것이 정상이다.

이것이야말로 데이터센터 운영자들이 보고 싶어 하는 결과다.

식스 나인: 머리카락 10분의 1 굵기의 광섬유도 틀려선 안 된다

데이터센터가 추구하는 것은 지루할 만큼 안정적인 상태다.

Digital Realty는 자사 데이터센터의 가동 시간이 99.999%에 이른다고 추정하며, 현재 이를 99.9999%까지 더 끌어올리기를 원한다. 겉보기에는 '9'가 하나 더 붙었을 뿐이지만, 이에 해당하는 연간 다운타임은 약 6분에서 약 30초로 줄어든다.

이 수십 초를 얻기 위해 데이터센터의 모든 단계는 충분히 신뢰할 수 있어야 한다.

CC&N의 데이터센터 기술자 제프 핸슨(Jeff Hansen)이 매일 마주하는 것은 그중에서도 가장 미세한 부분인 광섬유다.

단일 모드 광섬유의 코어 직경은 8~9마이크로미터에 불과하고, 머리카락 한 올은 약 75마이크로미터 굵기다. 두 광섬유를 연결할 때 융착 접속기는 1000배 배율로 코어를 정렬한 뒤, 아크 방전으로 유리를 녹여 접합한다. 핸슨은 이를 '미시 용접'이라고 부른다.

"광섬유를 다루는 건 레이저를 다루는 것 같아요." 그가 말했다. "광섬유 한 가닥은 미세한 유리 실인데, 믿기 어려울 만큼 많은 정보를 담고 있죠. 이 점이 저를 매료시켜요."

Digital Realty 애슈번 데이터센터 내부

초대규모(하이퍼스케일) 데이터센터의 한 방에는 이런 연결이 수천 개나 있을 수 있다. 설치 시 각 광섬유는 개별적으로 배선하고, 단말 처리하고, 테스트해야 한다. 테스트가 실패하면 그 원인은 수백만 가지에 이를 수 있어, 기술자는 경험과 절차에 의존해 하나씩 원인을 찾아야 한다.

데이터센터의 배선

따라서 데이터센터에서는 '즉흥적인 대응'이 거의 허용되지 않는다. 핸슨이 속한 팀은 현장에 들어가기 전마다 먼저 회의를 열어 작업 내용, 도구, 프로젝트 범위를 확인한다. 책임자는 브리핑 자료를 준비해야 하며, 지난 방문 이후 현장에 어떤 변화가 있었는지 미리 파악해야 한다.

데이터센터는 매우 빠르게 변하기 때문이다. 6개월 전만 해도 공사 중이던 현장이 이미 완전히 가동되고 있을 수 있다. 출입 권한, 운영 프로토콜, 위험 등급이 모두 달라질 수 있다.

"데이터센터 작업은 즉흥적으로 할 수 없어요." 핸슨이 말했다. "제대로 하려면 많은 계획이 필요하고, 그건 우리가 현장에 발을 들이기도 전에 시작돼요."

출입 통제도 마찬가지다. 초대규모 데이터센터에 들어가려면 보통 배지 확인, 신원 인증, 심지어 홍채 스캔까지 거쳐야 한다. 골판지와 종이는 먼지를 일으킬 수 있어 반입이 금지될 수 있고, USB 같은 저장 장치도 반입이 금지될 수 있다.

5분이면 끝날 것 같은 작업도 마음대로 할 수 없다. 설비 교체, 시스템 추가, 케이블 이동, 유지보수 모두 사전 신청, 위험 평가, 일정 조율, 다른 팀과의 협의가 필요하다.

모든 이상 징후도 기록으로 남겨야 한다. 전력의 미세한 변동, 조명의 깜빡임, 냉각 설비의 이상 소음, 심지어 바닥에 고인 작은 물웅덩이까지도 보고해야 할 사건이 될 수 있다.

배선 기술자에게 '안전'은 동시에 세 가지 의미를 담고 있다. 자신이 다치지 않아야 하고, 동료가 다치지 않아야 하며, 설비도 손상되지 않아야 한다. 이미 가동 중인 데이터센터에서는 작동 중인 광섬유 하나를 옮기는 것만으로도 직접적인 결과를 초래할 수 있기 때문이다.

데이터센터가 진정으로 필요로 하는 것은 현장의 영웅이 아니라, 가능한 한 영웅에 의존하지 않는 절차다.

AI가 '보모'를 인기 직업으로 만들다: 높은 연봉 뒤의 인재 부족

과거 데이터센터는 상대적으로 눈에 띄지 않는 산업이었다. 이제 AI가 이를 스포트라이트 아래로 끌어냈다.

산업 데이터 제공업체 Data Center Map의 데이터에 따르면, 미국에는 현재 약 2700개의 가동 중인 데이터센터가 있고, 약 400개가 건설 중이며, 최소 1500개가 계획 단계에 있다. 워디가 일하는 애슈번은 워싱턴 DC 외곽에서 차로 약 1시간 거리에 있는 '데이터센터 앨리(Data Center Alley)'에 위치해 있다.

데이터센터 자체는 노동 집약적 산업이 아니다. 한 시설을 장기 운영하는 데 보통 수십 명에서 수백 명의 직원이면 충분하다. 하지만 수천 개의 시설이 동시에 건설되고 운영되면, 엔지니어·기술자·유지보수 인력·프로젝트 관리자에 대한 수요가 빠르게 확대된다.

구인 사이트 Indeed에는 올해 이미 100만 명이 넘는 구직자가 데이터센터 관련 직무를 검색했으며, 8월 검색량은 2022년 초 대비 8배 증가했다.

Indeed의 연구에 따르면 유지보수와 설치 업무를 하는 시간제 근로자의 경우, 데이터센터 급여가 다른 산업의 유사 직무보다 약 42% 높다. 데이터센터 프로젝트 관리자의 연봉은 약 11만 5천 달러다. Digital Realty가 제공한 정보에 따르면, 초급 엔지니어의 연봉은 약 6만 6천 달러이고, 경력이 많은 엔지니어의 평균 급여는 12만 달러를 넘을 수 있다.

테크 평론가 에번 커스텔(Evan Kirstel)도 이런 급여 변화를 주목했다. 그는 소셜미디어에서 데이터센터 건설이 전기 기술자, 기술자, 공조(HVAC), 경비 등 직무에 더 높은 수입을 가져다주고 있으며, AI 인프라 투자가 일부 구체적인 블루칼라 일자리 기회로 전환되고 있다고 밝혔다.

하지만 진짜로 희소한 것은 복잡한 인프라를 다룰 수 있는 인력이다.

디지털 인프라 기업 Equinix의 최고인사책임자(CPO) 브랜디 갤빈 모란디(Brandi Galvin Morandi)는 전기 시스템, 네트워크 엔지니어링, 냉각 시스템 분야의 전문 인력 수요가 높다고 말했다.

애슈번의 데이터센터 안에는 화이트칼라와 블루칼라 직무가 뒤섞여 있다. 누군가는 경비를 담당하고, 누군가는 고객 케이블 구성을 담당하고, 누군가는 자재 구매를 담당하며, 엔지니어는 시설 전체를 모니터링한다. 이런 직무 구성은 미국 전역의 다른 데이터센터에서도 대체로 비슷하다.

문제는 인재 증가 속도가 시설 건설 속도를 따라가지 못한다는 점이다. Digital Realty 최고인사책임자 신디 피델먼(Cindy Fiedelman)은 이런 시설은 24시간 가동되어야 하므로, 종사자는 기술 교육을 받아야 할 뿐 아니라 안전 규율과 실제 운영 경험도 갖춰야 하는데, 이런 인재의 공급 속도가 산업 확장 속도보다 낮다고 말했다.

그래서 커뮤니티 칼리지가 데이터센터 관련 과정을 개설하기 시작했고, 대형 테크 기업도 교육 프로그램에 투자하기 시작했다. 버지니아주에서는 노던버지니아 커뮤니티 칼리지가 민간 부문의 지원을 받아 데이터센터 업무 프로그램을 출시했다. Meta를 비롯한 테크 기업도 숙련 인력 양성에 참여하고 있다.

에너지101 웹사이트 저자이자 텍사스대 교수인 마이클 E. 웨버(Michael E. Webber)는 AI 데이터센터가 블루칼라 일자리를 창출하는 동시에 일부 화이트칼라 일자리를 압박할 수 있지만, 화이트칼라 노동자는 상대적으로 다른 직업으로 전환하기 쉽다고 본다.

Digital Realty는 현재 6대륙에서 300개가 넘는 데이터센터를 운영하고 있다. 애슈번 같은 시설에서는 연산력이 필요한 대형 테크 기업에 공간을 임대하며, 고객으로는 오라클, Meta, IBM이 있다.

서버는 서로 다른 회사에서 왔을 수 있고, 엔지니어도 서로 다른 팀에서 왔을 수 있다. 하지만 모두가 결국 마주하는 요구는 하나다. 시스템을 멈추게 해서는 안 된다는 것.

데이터센터가 늘어날수록 '보모' 노릇도 어려워진다

AI가 불러온 건설 붐은 데이터센터를 무대 뒤의 인프라에서 대중이 점점 더 쉽게 볼 수 있는 산업으로 바꿔놓았다.

53세의 돈 앳킨슨(Don Atkinson)은 Digital Realty에서 약 14년간 일했고, 예비 전력 시스템 유지보수도 맡았었다. 지금은 젊은 엔지니어들을 관리하는 일을 맡고 있다.

Digital Realty 애슈번 데이터센터 매니저 돈 앳킨슨

그가 낯설게 느끼는 것은 외부의 태도 변화다. 그는 또 자신이 AI를 별로 사용하지 않는다고 말하며 "지금은 이상한 시기"라고 덧붙였다.

또 다른 직원 맬컴 모즐리(Malcolm Mosely)는 더 직접적이다. "저는 그냥 제 일을 하러 여기 왔을 뿐이에요."

Digital Realty 애슈번 데이터센터 직원 맬컴 모즐리

하지만 산업은 이미 방관자로 남기 어려워졌다. 애틀랜타에서 Digital Realty는 현지의 한 건설 금지 조치에 대한 면제를 추진하고 있다. 이 조치는 교통 요충지 인근의 데이터센터 건설을 제한하는데, 회사는 그곳에 5억 달러를 투자하는 데이터센터를 짓기를 원한다. 지역 주민들은 이 프로젝트에 반대하고 있으며, 현재 프로젝트는 중단된 상태다.

이와 비슷한 논란은 데이터센터 확장과 함께 나타나고 있다. 과거에는 사람들이 이 건물들 안에서 무슨 일이 일어나는지 거의 신경 쓰지 않았다. 이제는 에너지 소비, 수자원 사용, 지역사회에 대한 영향까지 모두 공론의 장으로 들어오고 있다.

이 산업은 재정의되고 있다. 더 이상 인터넷의 백엔드만이 아니라 AI 시대의 인프라가 된 것이다. 높은 연봉, 구인 열풍, 지역사회 논란, 에너지 압박 — 이 모든 것이 동시에 일어나고 있다. 하지만 그 모든 소음 뒤에 숨어 있는 것은 여전히 말없는 엔지니어들이다. 하루 3만 보의 리듬으로 디지털 세상 전체의 가동을 지탱하는 사람들.

좋은 날씨란 아무 일도 일어나지 않는 날씨다. 좋은 날이란 아무 일도 일어나지 않는 날이다. 이 점만은 아마 영원히 변하지 않을 것이다.