驻兵咸阳期间，李怀光不敢进兵平乱，并拒绝李晟出兵长安的请求，又恐拖延时间会遭到朝廷惩罚，便有意起兵叛乱。唐德宗为收复京城长安，曾遣使到吐蕃求援，吐蕃宰相尚结赞以求援文书上没有掌兵大臣李怀光的印鉴、不合吐蕃出援规矩为名，拒绝出兵。唐德宗遂派翰林学士陆贽找李怀光签名，李怀光拒绝签署，且对陆贽言语不敬。李晟见李怀光叛乱之意日渐明显，且暗中与叛将朱泚往来，怕自己的军队会被李怀光吞并，上奏朝廷后，率兵回防东渭桥（在今陕西西安东北）。 兴元元年（784年）二月，李晟奏请征讨李怀光，唐德宗犹豫不决，最终决定亲领禁军至咸阳，以抚慰之名，与诸将商议征讨李怀光。李怀光得知后很是害怕，谋反的意愿更加强烈。而唐德宗此时仍不相信李怀光将要叛变，于是下诏加封李怀光为太尉，并赐给他铁券。在神策军将领李卞和宦官邓鸣鹤前去送铁券和宣读诏书时，李怀光却发怒把铁券扔到地上，认为只有叛臣才谋取铁券以豁免死罪，朝廷现在赐铁券给他是想要他谋反。 同月，李怀光写信给正驻兵奉天的部将韩游瑰，与他约期起兵。韩游瑰将此事告知了朝廷。李怀光多次联络韩游瑰无果，公开叛唐，扬言自己已经与朱泚联合，让唐德宗躲避。唐德宗闻讯从奉天逃至梁州（今陕西汉中）。李怀光随后劫持了其驻军附近的鄜坊节度使（治坊州，今陕西黄陵县东南）李建徽、神策行营节度使杨惠元等，吞并了他们的军队，将他们移驻好畤（今陕西省乾县及永寿县南部），士兵心下颇为不服。而兵变后称帝的朱泚闻知李怀光叛唐，有意将其收归属下。 李怀光起兵二十天后，分兵掳掠泾阳（今陕西泾阳）、三原（今陕西咸阳三平县）、富平（今陕西富平），经同州（今陕西渭南市大荔县）攻往较为富庶的河中地区。驻守三原的神策军将领孟涉、段威勇率兵三千多人投奔李晟，韩游瑰则杀死李怀光的留后张昕，率邠州归顺唐廷。兴元元年（784年）四月，罢免李怀光的所有官爵，以邠宁兵马使韩游瑰为邠宁节度使，以奉天行营兵马使戴休颜为奉天行营节度使。李怀光则率兵抵达河中按兵观望，并不时兵袭同州、绛州。
