이상적인 분산 컴퓨팅 환경에서는 사용자들이 서비스를 제공받는데 어떠한 제약도 없어야 한다. 그렇기 때문에 분산 컴퓨팅 환경은 다음과 같은 조건을 충족시켜야 한다.
개발언어에 상관없이 서비스가 제공되어야 한다.
애플리케이션이 특정한 플랫폼에 종속되지 않아야 한다.
제공되는 서비스의 유지보수가 용이해야한다.
이러한 모든 조건을 만족시키기 위해서는 표준화된 기술 요소가 필요한데, 이를 위해 대두된 것이 SOA이다. SOA는 지금까지 소프트웨어 개발을 위해 혁신적인 개념으로 생각됐던 객체지향적인 방법(Object Oriented)에서 컴포넌트 중심적인 방법(Component Based Development)과 모델 기반의 접근 방법(Model Driven Architecture)의 연장선상에 있는 가장 포괄적이고도 현실적인 개념으로 인식되고 있다. 이전에도 비즈니스 로직을 컴포넌트화 하여 이것을 서비스로 보고자 하는 COM+, EJB, CORBA와 같은 개념도 있었지만 이들은 SOA에서의 서비스와는 명확한 차이를 가지고 있다. 이들은 자신이 가지는 프레임워크 내부에서 비즈니스 로직을 어떻게 잘 모듈화 해서 최대의 효율성을 가지게 하는가 에만 주안점을 두고 있다.
"만약 COM+로 만들어진 시스템을 리눅스 사용자가 사용하려 한다면 어떻게 할 것인가?"
바로 이것이 기존의 컴포넌트 중심적인 개념들이 가지는 한계점이다. 각자의 원래(native) 방식으로는 아주 효율적이고 강력하게 개발되고 사용될 수 있지만 자신의 시스템 경계를 넘어설 경우에는 당면하는 문제점들이 너무나 많다.
반면 SOA는 시스템을 누구나 이용 가능한 서비스로 간주하고 연동과 통합을 전제로 아키텍처를 만든다. 즉, 시스템을 개발하면서 처음부터 불특정 다수의 외부 시스템 혹은 고객과의 연동을 고려한다. 여기서 불특정 다수라는 것이 기존 컴포넌트와 큰 차이를 나타내는데, 이는 어떠한 플랫폼에 있는 사용자가 요청을 하더라도 문제 없이 처리할 수 있도록 한다. 또 서비스의 경우 각 서비스의 제공자가 규정한 내용에 따라 개별적인 보안이나 운영 정책을 실현하는 것이 가능하지만, 분산컴포넌트의 관리는 중앙에 집중되어 일괄적으로 운영되는 점도 큰 차이점이다. 그리고 더 나아가 서비스를 이용하기 위해서 특정 기술(EJB, DCOM, CORBA)에 얽매이지 않아도 되기 때문에 매우 유연한 시스템을 만들 수 있다.
유연하다는 것은 'A' 라는 회사에서 제공하던 서비스를 사용하던 소프트웨어가 별다른 수정 없이 'B' 라는 회사에서 제공하는 같은 기능의 서비스를 이용할 수 있다는 것을 의미한다.
