Ustawa o Straży Granicznej uchwalona 12 października 1990 r. powołała do istnienia Straż Graniczną, formację o charakterze policyjnym, odpowiadającą europejskim standardom i nawiązującą do tradycji polskich formacji granicznych okresu międzywojennego. Ustawa określa zakres zadań Straży Granicznej do którego należą w szczególności: ochrona granicy państwowej, kontrola ruchu granicznego, wykrywanie przestępstw i wykroczeń oraz ściganie ich sprawców, ustawianie i ochrona znaków granicznych, zapobieganie transportom przez granicę szkodliwych odpadów, substancji, narkotyków, materiałów promieniotwórczych. Straż Graniczna jest formacją uzbrojoną i umundurowaną, podlegającą Ministrowi Spraw Wewnętrznych i Administracji.
Po wyborach kontraktowych w czerwcu 1989 r. doszło do przemian ustrojowych, a w grudniu 1989 r. przestała istnieć Polska Rzeczpospolita Ludowa. Wtedy też w Karpackiej Brygadzie WOP rozpoczęła działalność Samodzielna Grupa Inicjatywna Ruchu Obywatelskiego Wojska Polskiego. Wystosowała ona apel do parlamentarzystów o odpolitycznienie wojska, prawo do organizowania się żołnierzy w związkach zawodowych, wpływ na kształt ustaw o ochronie granic i formacji mającej ją realizować. Jeden z członków tego ruchu, kpt. Tomasz Szkliński późniejszy pierwszy Komendant Karpackiego Oddziału Straży Granicznej, współpracował z komisjami sejmowymi przy tworzeniu nowego prawa, a następnie uczestniczył w pracach trzynastoosobowego Zespołu do Opracowania Struktur Straży Granicznej, powołanego w listopadzie 1990 r. przez Ministra Spraw Wewnętrznych Krzysztofa Kozłowskiego. 16 maja 1991 r. Straż Graniczna przejęła ochronę granicy i kontrolę ruchu granicznego od rozwiązanych dzień wcześniej WOP.
Struktura KaOSG w chwili powstania przedstawiała się następująco: Komenda Oddziału w Nowym Sączu, Strażnice SG w: Gładyszowie, Wysowej Zdroju, Tyliczu, Muszynie, Piwnicznej Zdroju, Szlachtowej, Czorsztynie (potem Sromowcach Wyżnych), Kacwinie, Jurgowie, Łysej Polanie, Zakopanem, Witowie, Podczerwonem, Chyżnem, Lipnicy Wielkiej, Zawoi, oraz Graniczne Placówki Kontrolne SG w: Muszynie, Piwnicznej Zdroju, Łysej Polanie, Chyżnem, Krakowie-Balicach.
Komendant Główny Straży Granicznej płk SG Marek Lisiecki 17 maja 1992 r. uroczyście przekazał na rynku w Nowym Sączu sztandar Komendantowi KaOSG. Nadał również Karpackiemu Oddziałowi Straży Granicznej imię „1 Pułku Strzelców Podhalańskich”.
Oddział wielokrotnie przechodził reorganizacje, które spowodowały trzykrotne zmiany terytorialnego zasięgu działania, w różnych okresach w jego strukturze znajdowały się przejścia graniczne w Łupkowie, Barwinku, Koniecznej, Niedzicy, Korbielowie, Zwardoniu oraz strażnice w Wetlinie, Cisnej, Komańczy, Jaśliskach, Sanoku, Ożennej, Szczawnicy, Korbielowie, Rycerce Górnej, Soblówce, Zwardoniu.
Ostatecznie w dniu likwidacji Karpackiego Oddziału Straży Granicznej 31 grudnia 2013 r. w jego skład wchodziły Placówki SG w Krakowie-Balicach, Piwnicznej, Tarnowie, Zakopanem i Żywcu. Rejon służbowej odpowiedzialności oddziału przejął nowo utworzony Śląsko-Małopolski Oddział Straży Granicznej.
1 stycznia 2014 r. powstał Karpacki Ośrodek Wsparcia Straży Granicznej w Nowym Sączu. Funkcjonował on w dawnej siedzibie Komendy Karpackiego Oddziału SG przejmując od niego część struktur: Orkiestrę Reprezentacyjną Straży Granicznej, Pododdział Odwodowo (Reprezentacyjny), Wydział Zabezpieczenia Działań. Dodatkowo ośrodek wspierał oddziały Straży Granicznej operacyjnie i pozyskiwał fundusze na programy rozwojowe i szkoleniowe.
Karpacki Oddział Straży Granicznej w Nowym Sączu został reaktywowany 16 maja 2016 r. początkowo obejmował Województwo Małopolskie z trzema Placówkami Straży Granicznej w Krakowie-Balicach, Tarnowie i Zakopanem, w listopadzie 2017 r. rozszerzono zasięg działania o Województwo Świętokrzyskie i Placówkę w Kielcach. Karpacki Oddział Straży Granicznej posiada w swojej strukturze jedyne w całej Straży Granicznej Orkiestrę Reprezentacyjną SG oraz Wydział Odwodowy (Reprezentacyjny).
W skład Komendy Oddziału wchodzą wydziały: graniczny, operacyjno-śledczy, do spraw cudzoziemców, organizacji i promocji, zabezpieczenia działań, łączności i informatyki, kadr szkolenia, główny księgowy, techniki i zaopatrzenia, ochrony informacji, kontroli, analiz informacji i współpracy międzynarodowej oraz zespół prasowy i służba zdrowia. Karpacki Oddział Straży Granicznej dla zwiększenia skuteczności współpracuje z Policją, Centralnym Biurem Śledczym Policji, Służbą Ochrony Państwa oraz innymi służbami, instytucjami i urzędami, a także Policją Republiki Słowackiej oraz z Województwem Preszowskim i Żylińskim Republiki Słowacji. Funkcjonariusze oddziału uczestniczą w misjach zagranicznych oraz programach Europejskiej Agencji Straży Granicznej i Przybrzeżnej Frontex.