정부는 선박, 기계 등 자본재 수출에 있어 수입국의 대부분이 자본이 빈약한 개발후진국일뿐 아니라 수출대전의 결제기간이 장기이고 거래가 주로 연불수출의 형태로 이루어지고 있음을 감안하여 무역거래의 단기금융의 주업무로 하고 있는 외환은행으로서는 그 업무를 효율적으로 수행하기 어렵고, 대출금의 회수가 장기에 걸쳐 이루어지고 수출단위가 거액이기 때문에 정부의 재정자금이 투입될 수 있는 특수은행이 필요하여 수출입은행의 설립을 추진하였다. 

정부는 중화학 제품 및 자본재의 연불수출의 필요성을 고려하여 1969년 국무회의 심의를 거쳐 한국수출입은행법안을 국회에 제출하였다. 이 법은 1969년 7월에 국회에서 통과되어 1969년 7월 28일에 공포되었다. 그런데 정부는 국내외 산업여건과 재정사정, 그리고 중장기신용에 대한 자본재 수출실적이 미미한 점을 고려하여 이 은행의 설립을 일단 유보하고, 이법 부칙에 근거하여 한국외환은행에 중장기신용부를 설치하여 그 업무를 대행하기도 하였다. 이에 따라 한국외환은행은 1969년 5월 중장기신용부를 신설하여 연불수출금융재원으로 정부로부터 141.5억원을 받아 업무를 개시하였다. 1975년 후반부터 중화학공업제품 수출이 빠르게 증가하자 정부는 수출입은행을 먼저 설립하고 이 은행에 자금을 지원함으로써 중화학공업화의 육성을 뒷받침하기로 하였다. 정부는 1976년 한국수출입은행 설립 방침을 발표하고, 한국은행 출자 200억원, 대출채권의 자본금 전환 300억원, 정부출자 54억원 등 총 554억원의 설립자금으로 이 은행을 설립하고 7월 1일에 업무를 개시하였다. 2005년 6월말 현재의 주주구성은 정부 59.9%, 한국은행, 35.4%, 한국산업은행 4.7%의 지분으로 구성되어 있다.

수출금융은 국내 수출업자를 대상으로 하는 공급자신용과 외국구매자를 대상으로 하는 구매자신용으로 구분된다. 공급자신용 중에서는 수출자금대출, 기술제공자금대출 등이 대표적이며, 구매자신용에는 직접대출, 전대자금대출 등이 있다. 해외투자를 지원하기 위한 대출에는 해외투자자금대출, 해외사업자금대출, 외국법인에 대한 사업자금 대출 등이 있다. 

수입자금대출에는 국민경제상 장기간 안정적으로 확보할 필요가 있거나 적기 수입을 요하는 주요 자원, 시설재 및 첨단제품 등의 수입을 위하여 그 수입대금의 결제 또는 수입대금의 선급에 필요한 자금을 국내수입업자에게 대출하는 것이 있다. 

수출입은행은 소요자금을 정부, 한국은행, 외국정부, 국제금융기구 및 기타 국내외 금융기관으로부터 차입할 수 있다. 수출입은행의 차입금 대부분은 해외은행단 차관, 외국 공적 수출금융기관의 전대 차관 등 주로 외화차입으로 구성되어 있다. 그리고 이 은행은 국내외 금융시장에서 수출입금융채권을 발행하여 자금을 조달하는데, 이전에는 외화표시로만 발행하였으나, 1991년부터는 원화표시 채권도 발행하였다. 

수출입은행은 한국외환은행이 업무를 대행할 시기에는 연불수출자금 및 해외투자자금 대출업무만 취급하였으나, 새로 독립되어 설립된 이후인 1977년에는 기술제공 대출업무를 시작하였고, 1979년에는 구매자신용방식에 의한 직접대출과 외국 금융기관에 대한 전대자금 공여업무를 시작하였다. 이 은행은 1980년에는 국내에서 최초로 주요 자원개발 지원자금 대출업무를, 1988년부터는 수입자금대출업무를 개시하였다. 

수출입은행은 1976년 10월에 갑류 외국환인가를 받았으며 1987년 6월부터는 개발도상국에 대한 공적개발원조자금의 지원에 의해 설치된대외경제협력기금 업무를 대행하고 있다. 

그밖에 한국수출입은행은 1977년 1월부터 수출업자의 신용위험 및 비상위험을 담보하는 정부의 수출보험업무를 대행하였으나, 동 업무를 1992년 7월에 설립된 한국수출보험공사에 이관하였다. 1991년 3월에는 통일부로부터 남북협력기금 업무를 수탁받아 남북간의 상호교류와 협력증진을 위한 유무상지원사업에 대한 심사, 자금집행, 사후관리 등의 업무를 수행하였다. 그리고 2003년 9월에는 북한의 조선무역은행과 함께 남북청산결제 전담은행으로 지정되어 남북한간 무역을 지원하기 시작하였다.