В 6 км к западу от Бхубанешвара в скалистых склонах невысоких холмов находятся пещеры Удаигири и Кхандагири (Udaigiri & Khandagiri Caves, с рассвета до заката, вход 2$, карта), которые 2100 лет назад служили убежищем джайнистским монахам. Эти пещеры относятся к первой величине в шкале орисских древностей, хотя и не идут ни в какое сравнение с пещерами Эллоры в штате Махараштра.
Пещерные комплексы Удаигири и Кхандагири располагаются друг против друга. Переходя из одной пещеры в другую, вы увидите древние джайнистские скульптуры, барельефы и надписи на древнем языке Магадхи.
В Удаигири внимания заслуживают пещеры #1 (Пещера Царицы), #3 и #4 (со скульптурами льва и слонов), двухуровневая пещера #5, #9 (с изображением джайнистского обряда поклонения), #10 (с барельефом индуистского бога Ганеши), #12 (пещера в форме головы тигра) и #14 (Слоновья Пещера с жизнеописанием царя древней Калинги).
В Кхандагири интересны пещеры #1 и #2 (Пещеры Попугаев), #3 (Пещера Ананты с лучшими барельефами во всем комплексе), #7 и #8 (с изображениями джайнистских святых-тиртханкаров и индуистских божеств).
На вершине Удаигири сохранились развалины древнего джаинистского святилища (chaitya hall), а на вершине Кхандагири действует джайнистский храм 19-го века, откуда открывается вид на Бхубанешвар и даже видно белый купол Шанти-ступы в Дхаули вдалеке.
До пещер можно добраться на авторикше из города (5$ туда-обратно). Неподалеку проходит шоссе №5, по которому курсируют междугородние автобусы.