RSUD Tarakan mengalami beberapa kali transformasi sebelum akhirnya menjadi Rumah Sakit yang mengalami Perubahan Bentuk Badan Hukum seperti sekarang ini terdiri dari:

RSUD Tarakan dimulai pada tahun 1953, pada waktu itu Gubernur Jakarta Bpk. R. Sudiro meresmikan Balai Pengobatan untuk melayani masyarakat di daerah Kecamatan Gambir. Tahun 1956  dalam perkembangannya Balai Pengobatan itu mengalami peningkatan , baik dari segi fungsi maupun dari fisik, peningkatan fungsi  dari balai pengobatan menjadi Puskesmas Kecamatan Gambir , Selain berfungsi sebagai Puskesmas   gedung ini  dimanfaatkan sebagai Kantor Suku Dinas Kesehatan Jakarta Pusat. Tahun 1968 Balai Pengobatan itu ditingkatkan menjadi Puskesmas Kecamatan Gambir.

Pada tahun 1987, sesuai dengan perkembangannya yang semakin pesat  dan didukung dengan belum adanya Rumah Sakit di wilayah Jakarta Pusat. MenjadiRSKelasC,SKMENKES15/1989 berlantai4.Dengan kapasitas 30 tempat tidur. Kapasitas gedung ditambah dengan adanya anggaran dari Departemen Kesehatan dan diresmikan pemakaiannya oleh Gubernur DKI Jakarta Bpk. R. Tjokropanolo pada tanggal 3 September 1987, yang sampai saat ini selalu diperingati oleh seluruh karyawan RSUD Tarakan. Di tahun 1997 RSUD Tarakan diresmikan menjadi Rumah Sakit Swadana Daerah. Tahun 1998 struktur organisasi  RSUD Tarakan ditingkatkan menjadi  Rumah Sakit kelas B Non Pendidikan dengan kapasitas 140 tempat tidur. Pada tahun 1999 RSUD Tarakan mendapatkan Akreditasi Tingkat Dasar 5 Pelayanan dari Departeman Kesehatan RI. Untuk meningkatkan pelayanan di tahun 2001 RSUD Tarakan membangun Blok C berlantai 3.

Tahun 2006 RSUD Tarakan telah mempunyai 2 gedung yaitu : Gedung DP II ( di bangun tahun 2003, berlantai 6 ) yang mulai ber operaional bulan Juni tahun 2006 dengan kapasitan tempat tidur 142 TT. Gedung DP 1( di renovasi total tahun 2004, berlantai 8) beroperasional bulan Maret dengan kapasitas tempat tidur 362 TT ( Kelas III = 70%). Renovasi gedung Critical Care Centre dan diresmikan tahun serta memperoleh Certificate ISO 9001 : 2008. Tahun 2011 diresmikan gedung Crical Centre dan pelayanan PONEK 24 jam. Di tahun 2012 sampai dengan tahun 2013 mendapatkan 3 penghargaan yaitu mendapatkan Akreditasi RS 16 pelayanan dan Piala Citra Pelayanan Prima dari Presiden RS di tahun 2012. Di tahun 2013 menerima Hospital Award Best Service Exelent Rajasa Award. Menjadi RS Sakit Umum Daerah Kelas B Pendidikan Utama, dan Rumah Sakit Tipe A di tahun 2014. Tahun 2016 mendapat Akreditasi pelayanan dengan nilai sempurna (bintang 5) dari KARS. Pada tahun 2017 RSUD Tarakan membangun gedung baru yang berdiri di atas sungai Cideng yang terdiri dari 18 lantai, diberi nama Gedung Sky Hospital.