As the electrical power industry is restructured, theelectrical power exchange is becoming extended. One of the keyinformation used to determine how much power can be transferredthrough the network is known as available transfer capability (ATC).To calculate ATC, traditional deterministic approach is based on theseverest case, but the approach has the complexity of procedure.Therefore, novel approach for ATC calculation is proposed usingcost-optimization method in this paper, and is compared withwell-being method and risk-benefit method. This paper proposes theoptimal transfer capability of HVDC system between mainland and aseparated island in Korea through these three methods. Thesemethods will consider production cost, wheeling charge throughHVDC system and outage cost with one depth (N-1 contingency).