На території селища Чемерівці та околиць зафіксовані рештки урнових трупоспалень та поселення раннього залізного віку. Залишки поселень давніх землеробів трипільської культури (IV-III тис. до н. е.) виявлено в урочищах «Ґуральня» та «Дубина». Археологами виявлено також слов’янські поселення черняхівської культури. Перша письмова згадка про Чемерівці датується 1565 роком (податкові списки).
31 грудня 1450 року король Казимир IV надав привілей для тодішнього дідича села Чемерівці Павлу Щуковському, на те, щоб перевести це село в статус міста на магдебурзькому праві.
У люстрації 1469 року вказано, що королівські маєтності Чемерівці, Балина, Залєше і Лищовче були в управлінні Домаратка Фурмановського та Дороти і Петра Сбикловських.
За одною із версій, висунутою польським поетом Маврицієм Гославським, також згаданою в польських літописах та місцевих легендах, але яка не спирається на авторитетні джерела, близько 1518 року дочка православного приходського священика Лісовського із Чемерівців Анастасія Лісовська була взята в полон татарами й продана до гарему турецького султана Сулеймана I. Згодом вона стає його законною дружиною, відомою як Роксолана (Хюррем) хасекі-султан. Також цю версію розвивав місцевий історик Михайло Кундис.
З 1565 року Чемерівці належать В. Ч. Поляновському, була церква.
2 червня 1588 р. через село Жердя, місто Чемерівці (Чеморовіце), Сатанів проїжджав Еріх Лясота фон Стеблан.
У 1775 році маршалок барської конфедерації Іґнацій (Гнат) Потоцький з Гусятина продав Чемерівці, Бережанку, Кугаївці, Теремківці, Турківці Антонію Стреміському.
З XVI і до кінця XVIII ст. Чемерівці вже в статусі містечка належали магнату Калиновському. Утиски польських феодалів викликали ряд селянських заворушень в краї. Прагнучи здобути долю та волю, мешканці Чемеровець та сіл піднялися проти шляхти під час визвольної війни українського народу 1648—1654 рр., брали активну участь у Коліївщині 1768 року, охоче браталися з опришками, йшли у ватаги Устима Кармелюка.
У XVIII-на початку XIX ст. Чемерівці переходять у володіння до польських магнатів Матушевичів, пізніше власниками стають Чайковський, Парушевський, Дметрович, Прейс.
За доби Речі Посполитої містечко мало власну печатку з «називним» гербом: у картуші — напис у три рядки польською мовою: «MIASTO / CZEME / ROWCE». Прикметно, що ця печатка побутувала в діловодстві міщанської громади й пізніше (до середини ХІХ ст.), вже за часів перебування Чемерівців під владою Російської імперії.
Після другого поділу Польщі у 1793 році містечко Чемерівці разом з іншими районами Правобережної України увійшло до складу Росії і стало містечком Кам’янець-Подільського повіту новоутвореної Подільської губернії.
В містечку на той час числилось 166 ремісників та 265 міщан-євреїв, було 2134 власних, 174 найманих дворів та 48 лавок. Крім того функціонували винокурний завод та водяний млин.
З початком війни у 1914 році доросле населення Чемеровець було мобілізоване на риття окопів, будівництво укріплень. Багато мобілізованих громадян загинуло на фронті або повернулися каліками. У важких умовах опинилось сільське господарство. Все це викликало незадоволення народних мас. Під гаслами встановлення демократичної республіки, запровадження восьмигодинного робочого дня, припинення війни відбулися демонстрації трудящих в селах Кам’янецького повіту — Чемерівцях, Жерді, Вишнівчику, Гусятині в лютому 1917 року.
У березні-жовтні 1917 року на Чемеровеччині відбувались масові демонстрації, страйки, виступи селян, які захоплювали поміщицькі маєтки, землю.
З перемогою більшовиків у грудні 1917 року в 12 армійському корпусі починається організація та зміцнення радянської влади в Чемерівцях. У лютому 1917 року на Поділля ввійшли австро-німецькі війська.
10 липня 1919 року їх було вигнано, але на зміну їм прийшли польські інтервенти. Для чемерівчан знову повернулась панщина. Поляки вимагали повернути панську власність, гонили чемерівчан на роботу до поміщика. Проти такої політики виступали селяни.
В серпні 1919 року під натиском Російської армії поляків було вигнано, але на початку 1920 року в зв’язку з організацією третього походу Антанти знову ними було захоплено містечко. Загарбники жорстоко катували населення за несплату контрибуцій і т. ін.
Чемеровецька місцева рада утворена в 1921 році.
В червні 1922 року організували в Чемерівцях сільськогосподарське кооперативне господарство «Поступ», куди входило 10 сімей, які мали 19,4 десятин землі. Головою правління селяни обрали В. Шеремету, членами правління А. Паравійчука, Д. Матлака і комуніста М. Вовчка.
Організація колгоспів проводилася в більшості випадків насильницькими методами, що закономірно виклакало спротив населення.
У ніч на 2 вересня 1922 року поблизу Чемерівець у напрямку до кордону в сусідньому Гусятині без боїв успішно пройшло більше сотні повстанців Подільської групи під проводом полковника Якова Гальчевського. Вони майже два роки успішно боролись з більшовиками насамперед у Вінницькій області.
В червні 1923 року була створені сільськогосподарська артіль «Початок». Головою артілі став Г. Шейко, секретарем М. Янушевич, членами правління М. Недоборський, О. Севаст’янов, в артіль увійшло 33 трудівники, які об’єднали 40 десятин землі. Господарство мало 4 коней, 7 корів, 4 плуги.
Під час організованого радянською владою Голодомору 1932—1933 років померло щонайменше 47 жителів селища.
У Чемерівцях безпідставно репресовано в 1930-1940-х роках та на початку 1950-х років позасудовими органами — 87 осіб, реабілітовано — 68 осіб.
9 липня 1941 року німецькі війська окупували селище Чемерівці та навколишні села. Звільнено радянськими військами 1-го Українського фронту 23 березня 1944 року.
Протягом 1944—1946 рр. поступово відновлюється діяльність Чемеровецької МТС.
Статус смт із 1959 року.
