Sejarah Pengkalan Hulu bermula sebagai pusat pentadbiran Negeri Reman (sebahagian daripada Negeri Patani) yang mana sempadan negerinya adalah Kedah dan Patani. Bagaimanapun, Raja Reman telah menceroboh Klian Intan dan mengusahakan perlombongan bijih timah di situ, sehinggalah tercetusnya beberapa siri pertikaian dengan Kerajaan Perak dan beberapa perjanjian yang diusahakan antara pihak Inggeris, Siam dan Perak. Pada tahun 1902, Kerajaan Siam telah menghapuskan sistem pemerintahan beraja di Negeri Reman. Setelah itu, Kerajaan Siam telah menyerahkan daerah Hulu Perak kepada Kerajaan Perak. Istiadat penyerahan daerah Hulu Perak dilangsungkan di Kroh pada 16 Julai 1909.
Pengkalan Hulu pada dahulunya dikenali sebagai Kroh. Sejarah nama Kroh bermula dengan sebuah sungai kecil yang mengalir melalui kawasan ini. Sungai yang mengalir ini berpunca dari sebuah kampung yang bernama Selarong. Selarong bermaksud 'denai gajah' dalam bahasa Arab. Sungai ini menjadi tempat mandi dan berkubang gajah-gajah kepunyaan Raja Reman yang bilangannya menjangkau ratusan ekor. Bagi memudahkan gajah-gajah tersebut mandi, Raja Reman telah memerintahkan agar empangan dibina untuk membendung air. Aliran sungai yang diempangkan itu menjadi sebuah tasik kecil dengan keadaan airnya yang sentiasa keruh. Disebabkan itulah bandar ini telah dinamakan sebagai Kroh pada masa dahulu.
Pada 4 Januari 1984, semasa pemerintahan Sultan Perak ke-33 iaitu Almarhum Sultan Idris Al-Mutawakkil Alallahi Shah (Sultan Idris Shah II), baginda telah berkenan meminda nama Kroh kepada Pengkalan Hulu kerana tempat ini menjadi tempat persinggahan apabila baginda berangkat ke daerah Hulu Perak.
Kini, tinggalan tasik kecil tersebut telah dibangunkan oleh pentadbiran daerah sebagai taman rekreasi yang dinamakan Taman Tasek Takong. Kaitan antara gajah dengan nama Kroh juga telah diabadikan menerusi logo Majlis Daerah Pengkalan Hulu, Perak Darul Ridzuan.
