유닉스는 왜 서버 시장의 주류에서 밀려났나

상용 유닉스가 흔들리기 시작한 순간

• 2000년대 중반, 상용 유닉스는 서버 시장의 중심에서 밀려나기 시작함

  • IBM AIX, HP-UX, 썬 솔라리스(Solaris)는 한때 엔터프라이즈 서버의 대표 운영체제였음
  • 그런데 HP와 IBM은 유닉스에 투입하던 자원과 에너지를 리눅스로 돌리기 시작했고, 썬도 오픈소스 전략을 강조함

• 숫자로 보면 분위기가 더 선명함

  • IDC에 따르면 2004년 유닉스 라이선스 및 유지보수 매출은 전년보다 5,100만 달러 줄어든 20억 달러였음
  • 2005년 3분기 유닉스 서버 매출은 39억 달러로 전년 동기 대비 0.4% 감소했고, 판매 대수는 13.7% 줄었음
  • 반대로 같은 기간 리눅스 서버 판매 대수는 20.5%, 윈도우 서버 판매 대수는 15.3% 증가함

• 고객들도 슬슬 유닉스를 떠나기 시작함
  • 오하이오 저축은행은 HP-UX 기반 대형 서버 5대에서 저가 리눅스 서버 클러스터로 핵심 모기지 처리 애플리케이션을 이전하기로 함
  • 이미 오라클 데이터베이스도 HP-UX에서 리눅스로 옮긴 상태였음
  • 남은 HP-UX 유지보수 계약을 종료하면 연간 8만~10만 달러를 아낄 수 있다고 봄

리눅스와 x86이 판을 바꿨다

• 유닉스의 큰 약점은 “하나의 유닉스”가 아니었다는 점임

  • IBM AIX, HP-UX, 솔라리스, BSD, 맥 OS X까지 유닉스 계열은 너무 많았음
  • 유닉스 역사가 에릭 레베네즈는 200종류가 넘는 유닉스를 나열했음
  • 1996년 공통 API 규약으로 통합을 시도했지만 리눅스와 윈도우의 확산을 막기엔 부족했음

• 하드웨어 쪽에서도 전용 서버의 매력이 줄어듦

  • 1990년대 후반부터 인텔·AMD 기반 x86 서버가 성능과 안정성을 빠르게 끌어올림
  • 고가 RISC 기반 유닉스 서버 대신 저렴한 범용 서버를 대규모로 분산 운영하는 방식이 확산됨
  • 기업 입장에서는 비용 절감과 범용 인력 확보가 훨씬 쉬웠음

• 각 벤더의 하드웨어 전략도 흔들림

  • AIX는 IBM p시리즈와 파워 5칩에 묶여 있었음
  • 솔라리스는 썬 SPARC 아키텍처와 강하게 결합돼 있었지만, 썬은 AMD 서버와 솔라리스 조합도 밀기 시작함
  • HP-UX는 아이태니엄(Itanium)에 운명을 걸었지만, 애플리케이션 생태계와 도입 속도가 기대만큼 나오지 않음

썬, IBM, HP의 서로 다른 대응

• 썬은 2005년에 솔라리스를 오픈소스로 공개하며 반격을 시도함

  • 솔라리스 유지보수 비용을 레드햇 리눅스와 비슷하거나 더 낮은 수준으로 맞췄음
  • CDDL 라이선스를 통해 독립 개발자가 솔라리스 기반 개발물을 만들고 보유할 수 있게 함
  • 다만 CDDL은 GPL과 직접 호환되지 않아 리눅스 커뮤니티와 완전히 합쳐지진 못함

• IBM과 HP는 양면 전략을 택함

  • 고객에게 저가 리눅스 서버 구축 컨설팅을 제공하면서도, 워크로드가 커지면 자사 유닉스로 업그레이드할 기회를 노림
  • IBM은 “소스를 오픈하지 않을 것”이라며 AIX 대신 리눅스를 자사의 오픈소스 전략으로 삼는다고 밝힘
  • IBM은 2007년 말까지 AIX 협력 센터에 2억 달러를 투자하겠다고 발표하기도 함

• SCO그룹의 리눅스 소송은 시대의 혼란을 보여주는 사건이었음

  • SCO는 IBM이 불법적으로 유닉스 코드를 리눅스에 넣었다고 주장하며 소송을 제기함
  • 리눅스 사용자였던 오토존과 다임러크라이슬러도 소송 대상이 됨
  • 하지만 장기 법정 공방 끝에 SCO의 핵심 주장은 받아들여지지 않았고, SCO는 파산 절차로 역사 속으로 정리됨

2026년에 보는 결론

• 지금 와서 보면 상용 유닉스는 사라졌다기보다 레거시 플랫폼으로 남은 쪽에 가까움

  • 리눅스는 데이터센터와 클라우드의 사실상 표준 운영체제가 됨
  • 대형 클라우드 사업자와 AI 인프라 대부분도 리눅스를 기반으로 운영됨
  • AIX, 솔라리스 같은 상용 유닉스는 금융, 통신, 제조 일부 미션 크리티컬 시스템에 제한적으로 남아 있음

• 각 운영체제의 운명도 갈림

  • HP-UX는 아이태니엄 의존을 극복하지 못했고, HPE는 2025년 말 HP-UX 11i v3 일반 지원 종료를 발표함
  • 솔라리스는 오라클의 썬 인수 이후 유지되고 있으며, 솔라리스 11.4 지원은 2037년까지 연장된 상태임
  • AIX는 IBM 파워 서버와 함께 금융, 제조, 대형 ERP 영역에서 일부 핵심 고객층을 유지 중임

• 유닉스의 철학은 죽지 않았다는 점도 아이러니함

  • 리눅스, BSD, macOS 모두 넓은 의미의 유닉스 계보 위에 있음
  • macOS는 공식 UNIX 인증을 유지해왔고, 클라우드 인프라와 컨테이너 생태계도 POSIX와 유닉스 전통 위에서 발전함
  • 결국 상용 유닉스 벤더 모델은 밀려났지만, 유닉스식 운영체제 철학은 현대 인프라의 바닥에 남아 있는 셈임

---

기술 맥락

• 이 전환의 핵심은 운영체제 기능만의 싸움이 아니었어요. 기업은 운영체제, 서버 하드웨어, 유지보수 계약, 애플리케이션 인증, 운영 인력까지 한꺼번에 봐야 했거든요. 리눅스와 x86 조합은 이 전체 비용 구조를 흔든 선택지였어요.

• 상용 유닉스는 안정성과 확장성에서 강했지만, 특정 벤더 하드웨어와 강하게 묶인 경우가 많았어요. 반대로 x86 서버는 여러 업체가 공급하고 인력도 구하기 쉬워서, 대규모로 늘리고 교체하는 운영 모델에 더 잘 맞았어요.

• 썬이 솔라리스를 오픈소스로 공개한 건 단순한 이미지 개선이 아니에요. 리눅스가 개발자 생태계와 배포판 모델로 시장을 넓히는 걸 보면서, 솔라리스도 비슷한 개발자 흐름을 만들려 한 거예요. 다만 라이선스와 생태계 관성 때문에 리눅스만큼 커지진 못했죠.

• 지금도 AIX나 솔라리스가 남아 있는 이유는 기술이 낡았는데 아무도 안 치워서만은 아니에요. 금융이나 제조의 핵심 업무는 검증, 장애 리스크, 마이그레이션 비용이 너무 커서 안정적으로 돌아가는 시스템을 쉽게 바꾸기 어렵거든요.