在清政府被迫抗击日本侵略之后，帝后两党和李鸿章等仍然抱有程度不同、内容各异的“以夷制夷”的念头。8 月 1 日清政府甫经宣战，盛宣怀就对俄国驻华公使随员表示：“吾国并（李）中堂之意，均欲与贵国合而为一，将日兵逐出”。8 月 13 日李鸿章致电总署，鼓吹“联俄制日”，说俄国“似有动兵逐倭之意”。8 月 16 日翁同郁上疏抗争，“力言俄不能拒，亦不可联，总以我兵能胜倭为主，勿盼外援而疏本务。”由于当时中国正处在抗日高潮时期，战争胜负尚未定局，中俄联盟之议遂被搁置起来。及至平壤、黄海战败之后，帝党继续主战，后党和李鸿章转而主和。慈禧旧事重提，意在与俄结盟，拟派翁同龢赴津与李鸿章会商。翁氏既反对联俄又“不敢以和局为举世唾骂”，叩头请辞天津之行。慈禧改以“责李鸿章何以贻误至此”名义，仍派翁氏前往。9 月 30 日翁氏轻装至津，“乘小轿入督署”，会见李鸿章。他首先传达慈禧、光绪对李鸿章“慰勉”之意，然后就严厉谴责他贻误、败衂情况。李鸿章“惶恐引咎”，并辩解说：“缓不济急，寡不敌众，此八字无可辞。”翁同龢质问：“陪都重地，陵寝所在，设有震惊，奈何？”李鸿章答复说：“奉天兵实不足恃，又鞭长莫及，此事真无把握。”翁同龢又询问“北洋兵舰”如何?李鸿章非常生气，“怒目相视，半晌无语”，慢慢掉头说：“师傅总理度支，平时请款辄驳诘，临事而问兵舰，兵舰果可恃乎？”翁同龢辩曰：“计臣以撙节为尽职，事诚急，何不复请？”李鸿章愤愤地说：“政府疑我跋扈，台谏参我贪婪，我再晓晓不已，今日尚有李鸿章乎？”翁同龢“语塞”。正当他们在督署会晤之时，接到一道廷寄：“闻喀使西尼三四日到津，李某如与晤面，可将详细情形告翁某，回京复奏。”李鸿章告诉翁同龢：喀西尼派参赞前来声称：中国若能派一专使赴俄与商，“则中俄之交固，必出为讲说。”翁同龢担心“俄连而英起，奈何?”李鸿章断言：“无虑也，必能保俄不占东三省。”10 月 4 日，翁同龢回京复命，并向慈禧、光绪表示：“喀事恐不足恃，以后由北洋奏办，臣不与闻。”就在这一天，奕䜣∪劻动密函李鸿章，说“刻下战守均不可恃”，令其与喀西尼密议，“妥筹善策”。10 月 12 日，喀西尼由烟台至津，与李鸿章会谈中日故事。李鸿章怂恿俄国出头干涉，喀西尼表示俄国将“暂守局外之例”。是时李鸿章“亲俄疏英”，因而对前此来访的英使欧格讷较为冷淡。欧格讷说：英国外交部“以中日战事未便持久，两有损伤，嘱相机解劝。”他询问李鸿章如何办法。李鸿章告以事已至此，只有一意主战。
与李鸿章“亲俄疏英”相反，帝党和张之洞却主张以 2、3 千万两白银为诱饵，“密联英德以御倭人”。光绪让奕䜣征询赫德意见，赫德则持否定态度，以“不能”答之。光绪遂下谕召张之洞来京陛见，打算与他商讨密联英德事宜。然而，英德却无意援助中国，致使帝党大失所望。10 月 13 日，欧格讷总署会晤奕䜣，提议由各国保护朝鲜，中国赔偿日本兵费，并蛮横要求即日定议。第二天，总署大臣就欧格讷的建议展开了辩论，并请示了慈禧。据翁同龢日记载，慈禧∪䜣赞成在欧格讷提议的基础上议和，翁同龢、李鸿藻则痛恨欧格讷“要挟催逼”，并因“天意已定”屈辱求和而“求死不得”，仰天长叹。但是，日本却因图谋在武力夺取辽东半岛之后议和而拒绝了英国的调停。10 月底 11 月初，由于日寇铁蹄蹂躏辽东半岛，威逼奉天“根本重地”，迫使帝党同后党、李鸿章等在“遣使议和”问题上，渐趋一致，因而以后相继有德璀琳和张荫桓、邵友濂出使日本之举。当时日本政府并无议和之意，指责德璀琳不合交战国使者资格，拒绝接待；指责张、邵全权不足，拒绝谈判；并公然指名要奕䜣或李鸿章充任全权代表。
1895 年 2 月 10 日光绪召见军机大臣翁同龢等，“问诸臣，时事如此，战和皆无可恃，言及宗社，声泪并发。”11 日，光绪再次召集军机议事，决定派李鸿章为全权大臣乞和。12 日慈禧召见重臣，论及美国驻华公使田贝转来东京之信说：“所指自是李某，即著伊去，一切开复，即令来京请训。”奕䜣对曰：光绪不让李鸿章来京，“如此恐与早间所奉谕旨不符。”慈禧怒形于色，冷言道：“我自面商；既请旨，我可作一半主张也。”13 日，光绪谕令李鸿章“作为头等全权大臣，与日本商定和约”，“著星速来京请训，切勿刻迟。”清廷所以选派李鸿章赴日议和，是因为在他们看来，“倭焰鸱张，畿疆危逼，只此权宜一策，但可解纷纾急，亟谋两害从轻”，而李鸿章身兼将相、厌战主和并为日本所“器重”，全权代表匪异人任。于是赏还翎顶、黄马褂，开复革留处分。吴汝纶说：“此时言和，直乞降耳，乃欲以口舌争胜，岂可得哉。”“乞降”本来是一项屈辱而又危险的使命，正如赫德所说的：李鸿章东渡“签立和约，是沉重而不得人心的任务，不但为全国人所咒骂，也许还要受政府的公开谴责。”李鸿章向张荫桓透露：“各使怂恿兄去，致被新命，茫无所措，拟进京商办”。
1895 年 2 月 10 日光绪召见军机大臣翁同龢等，“问诸臣，时事如此，战和皆无可恃，言及宗社，声泪并发。”11 日，光绪再次召集军机议事，决定派李鸿章为全权大臣乞和。12 日慈禧召见重臣，论及美国驻华公使田贝转来东京之信说：“所指自是李某，即著伊去，一切开复，即令来京请训。”奕䜣对曰：光绪不让李鸿章来京，“如此恐与早间所奉谕旨不符。”慈禧怒形于色，冷言道：“我自面商；既请旨，我可作一半主张也。”13 日，光绪谕令李鸿章“作为头等全权大臣，与日本商定和约”，“著星速来京请训，切勿刻迟。”清廷所以选派李鸿章赴日议和，是因为在他们看来，“倭焰鸱张，畿疆危逼，只此权宜一策，但可解纷纾急，亟谋两害从轻”，而李鸿章身兼将相、厌战主和并为日本所“器重”，全权代表匪异人任。于是赏还翎顶、黄马褂，开复革留处分。吴汝纶说：“此时言和，直乞降耳，乃欲以口舌争胜，岂可得哉。”“乞降”本来是一项屈辱而又危险的使命，正如赫德所说的：李鸿章东渡“签立和约，是沉重而不得人心的任务，不但为全国人所咒骂，也许还要受政府的公开谴责。”李鸿章向张荫桓透露：“各使怂恿兄去，致被新命，茫无所措，拟进京商办”。张借助英俄拒绝日本的割地要求。孙、徐“以为办不到”，而瓮却“力赞之”。
李鸿章认为割让土地给日本，“北则碍俄，南则碍英法”，利益攸关，英、法、俄等国有可能进行干涉。因而，他一面先后访问美、俄、法、英、德等国驻华公使，请其“电知本国”；一面电令”中国驻英、俄公使“速赴外部密商托”。然而，事与愿违，李鸿章争取外援的活动，结果毫无成效。他对张荫桓说：“连日为土地事，与各使商论，皆谓非此不能结局。”他哀叹：“借助仍难著实，不肯用重力，恐无济。”他鉴于英、俄“无切实相助语”，和“中国不割让给日本一块土地，就没有签订和约的可能”，所以转而主张割地求和。据翁同龢日记载：2 月 25 日李鸿章面奏，“略及割地”，奕䜣“亦发其凡”，翁同龢“却未敢雷同，同人亦寂寂也。”光绪深知割地事体重大，必须禀商慈禧决定。第二天，当光绪将李鸿章∪䜣的意见报告给慈禧之后，不料“李鸿章所奏，恭邸所陈，大拂慈圣之意”。慈禧玩弄权术，推卸责任，对光绪说：“任汝为之，毋以启予也。”28 日光绪要奕䜣等奏请慈禧“定使臣之权”。慈禧令太监传言：“一切遵上旨可也。”3 月 2日，光绪迫于事势，给予李鸿章以“商让土地之权”。李鸿章“闻命之余，曷胜悚惧。”他上疏预筹赴日议和情形说：日本重在割地，事机紧迫，非此不能开议。拟就形势方域，斟酌轻重，力与辩争。此外所求，非止一端，并当相机迎拒。3 月 3 日光绪发布上谕，肯定了李鸿章的行动方针，令其“权衡于利害之轻重，情势之缓急，统筹全局，即与定议条约，以纾宵旰之忧，而慰中外之望”。同时枢臣奕䜣等公奏慈禧说：日本重在割地，“若驳斥不允，则都城之危，即在指顾。以今日情势而论，宗社为重，边徼为轻，利害相悬，无烦数计。”由此可见，清廷在自身统治与民族利益发生矛盾时，不惜出卖民族主权以维护其反动统治。所谓“宗社为重，边徼为轻”，正是这种思想的反映。3 月 4 日李鸿章单独请训，发下全权敕书。翌日萧然出都。
3 月 19 日，李鸿章带领李经方和美国顾问科士达等到达马关。第二天便在马关春帆楼与日本全权代表伊藤博文。陆奥宗光开始谈判。谈判反映战场上的形势。伊藤、陆奥摆出战胜者的骄横姿态，采取军事要挟和外交讹诈的两手策略，力图从中国攫取最大权益以满足其贪欲。李鸿章鉴于“战绌而后言和，且值都城危急，事机万紧，更非寻常交际可比”，因而便委曲哀求，步步退让。李鸿章深知擅自允许日本的侵略要求，必将给自己带来杀身之祸。因此，他对谈判中涉及的重大问题，无不随时电奏，候旨遵行。
在第一次会议上，李鸿章发表了长篇谈话，从陆奥的记载中，可以看出他主要讲了三个问题。第一，他赞扬日本“近年来改革事业的成就”，“称颂伊藤总理的施政得宜，并叹息中国之改革尚未奏效，是由于自己才略不足”。第二，他断言中日战争，使“中国侥悻得以从长夜之迷梦中觉醒，此实为日本促成中国发奋图强，帮助其将来之进步，可谓得益非常巨大。”第三，他主张“中日同盟”，说什么“中日两国为东亚两大帝国，日本有不弱于欧洲各国之学术知识，中国有天然不竭之富源，如两国将来能相互合作，则对抗欧洲列强亦非至难之事。”李鸿章的这段议论，固然不乏外交词令，但是晓以两国唇齿相依之大义，主张两国“应力维亚洲大局，永结和好”，却无疑是真知的见、语重心长。然而，骄横的伊藤、、陆奥听不进任何忠告，一心要把日本的富强建立在中国贫弱的基础之上，妄图称霸亚洲，征服世界。
李鸿章要求在两国议和期间，双方陆海军一律停战。日本提出日军占领大沽、天津、山海关三处地方、天津至山海关铁路交日军管理以及停战期间军费由中国负担等苛刻条件，作为允许停战的前提。李鸿章要求停战，是为了防止日军进攻京畿：而伊藤如此凌逼，意在迫使中国放弃停战之想，保持对清廷的军事压力。李鸿章致电总署，指出日本“要挟过甚，碍难允行”。光绪获悉后，令奕䜣等与各国公使面商，而各使“均以先索和议条款为要”；同时表示停战期内中国可“支补”日本军费，其余条款“万难允许”。3 月24 日，李鸿章被迫搁置停战之议，而索取媾和条款。伊藤答应以第二天面交。李鸿章从会场返回寓所途中，遭到日本浪人小山丰太郎的枪击，左颊中弹，血流不止，“登时晕绝”。经医生检查，子弹嵌入颊骨，取之难保无虞，决定留弹合口。一个外国使节被所在国人暗杀，实在是一件极端野蛮和丑恶的事。消息传开，日本“举国震惊”，世界舆论也为之哗然。陆奥供认：
我观察内外人心所向，认为如不乘此时机采取善后措施，即有发生不测之危机，亦难预料。内外形势，已至不许继续交战的时机。若李鸿章以负伤为借口，中途归国，对日本国民的行为痛加非难，巧诱欧美各国，要求它们再度居中周旋，至少不难博得欧洲二、三强国的同情。而在此时，如一度引出欧洲列强的干涉，我国对中国的要求亦将陷于不得不大为让步的地步。正是基于这种认识，天皇降旨表示要严惩凶手，并特派御医前往诊治。伊藤、陆奥亲临榻前慰问，并自动宣布除台湾、澎湖地区外立即停战，企图藉此稳住清廷，避免列强干涉。可悲的是，李鸿章虽然看出自己受伤后日本“上下礼谊周至，不过敷衍外面”，但他本人和清廷却都没有利用这次事件压制日本争取外援的想法和行动，仍然把索取媾和条款放在首位。清廷天真地以为日本“似尚有抱歉之意”。李鸿章面伤稍苏，即照会伊藤等，声称明日之会不能躬亲，拟令李经方代往晤索议和条款。当得到陆奥关于停战的通知后，“绷带外面仅露一眼”的李鸿章，“露出十分高兴的神情”。一场风波，就这样化险为夷了。
4 月 1 日，伊藤提出日本的媾和条款，要求清政府承认朝鲜“独立自主”，割让奉天南部、台湾、澎湖列岛；赔偿日本军费银 3 万万两；缔结新的通商行船条约；开放北京等 7 处为通商口岸：日本臣民得在中国设厂从事各种制造，并得输入机器等等。李鸿章随即电告总署，“请先核明代奏”；同时与科士达密商，拟定答复“说帖”，“以赔费太多，让地太广，通商新章与西国订约不符，委婉开导驳斥，累数千言”，于 4 月 5 日送交伊藤、陆奥。陆奥阅后也不得不承认这份说帖“笔意精到，仔细周详，将其所欲言者尽情他说了出来，不失为一篇好文章”。伊藤与陆奥商定，不同中国讲道理，只要中国谈事实，这正是“胜于力而屈于理”的办法。4 月 6 日，伊藤发出照会，胁迫李鸿章对日方媾和条款作出明确答复，“勿再延缓”。
李鸿章电告总署：日本“嫌（说帖）未说明所欲允之意，注意仍在让地、赔款两条实在着落。若欲和议速成，赔费恐须过一万万，让地恐不止台澎，但鸿断不敢擅允，惟求集思广益，指示遵行。”
当时清朝统冶层对日方媾和条款，看法不一。光绪“意在速成”，奕䜣、孙毓汶等断言“战字不能再提”，主张割台保奉。翁同龢“力陈台不可弃”，“恐从此失天下人心”，与世铎。奕䜣“语不洽”。双方各执一词，光绪难以作出抉择，便于 4 月 7 日电示李鸿章，说“南北两地，朝廷视为并重，非至万不得已，极尽驳论而不能得，何忍轻言割弃。”责令李鸿章“直抒己见”，“不得退避不言”，并“先将让地应以一处为断，赔费应以万万为断，与之竭力申说”。4 月 8 日，慈禧声称：奉天、台澎“两地皆不可弃，即撤使再战亦不恤也。”当然，慈禧此举，只不过是故作姿态而已，她并没有“撤使再战”的决心。就在这一天，李鸿章遵旨复陈，主张割让奉天安东、宽甸、凤凰、岫岩四厅州县及澎湖列岛，赔银一万万两。4 月 9 日李鸿章根据这一设想，拟定和约修正案，交给日方。第二天，伊藤面交对中国修正案的复文，要求赔款 2 万万两，割让辽东半岛、台湾、澎湖，并蛮横地声称：日本条款“已让至尽头”，中国“但有允不允两句话而已”。他既不准置辩，又肆意恫吓。李鸿章忍辱负重，哀声乞怜，而伊藤、陆奥却“乘胜贪横，悍然不顾”。李鸿章深知日本“实非情理能喻”，急电总署表示：“鸿力竭计穷，恳速请旨定夺。”4 月 12 日，光绪指示李鸿章再与伊藤“磋磨”，争取减少赔款，“允其割台之半”，“牛庄营口在所必争”，“倘事至无可再商，应由该大臣一面电闻，一面即与定约。”4 月 13 日，李鸿章连复三电，一面进行威吓，说日本已派兵赴大连湾，“若议不合，必至决裂”，进攻京畿；一面断言“割台之半与之，亦必不允”，“实恐难望转圈”，日本“愈逼愈紧，无可再商，应否即照伊藤前所改订条款定约，免误大局。”4 月 14 日光绪无亲，指示李鸿章：“原冀争得一分有一分之益，如竟无可商改，即遵前旨与之定约。”
清廷和李鸿章是被迫与日本定约的。孪鸿章以为日本有意“急攻京畿，以图要挟，故限期成议。”答应日本要求，“则京师可保，否则不堪设想。”在清廷和李鸿章看来，“京师则宗社攸关”，要想保住京师，维持大清统治，就只得忍辱负重，出卖民族利益，屈膝求和。他们曾经试图争取英。俄、法等国出面干涉，压服日本。然而，事与愿违，盛宣怀电告李鸿章说：“此间分询各使，均云并无出力相助之议。”外援无著，又无劲旅保卫京畿，除了在卖国条约上签字，就别无他途了。
4 月 17 日，李鸿章与伊藤在《马关条约》上签字。《马关条约》正约共11 款，其主要内容是：中国承认朝鲜“为完全无缺之独立自主”，中国将辽东半岛、台湾全岛及所有附属各岛屿、澎湖列岛割让给日本：赔偿日本军费库平银 2 万万两，分 8 次交清；中国开放沙市，重庆、苏州、杭州为商埠，日船可以沿内河驶人以上各口；日本臣民可以在中国通商口岸设厂制造工业品，并得免征一切杂税。双方议定 5 月 8 日在烟台互换批准书。4 月 18 日，李鸿章自马关启程返国。船抵大沽，派人星夜进京，给总署呈送约本。李鸿章至津，称病不出。4 月 20 日，他奏报谈判经过，一面为自己开脱罪责，说什么“适当事机棘手之际，力争于骄悍不屈”，“既不免毁伤残年之遗体，复不能稍戢强敌之贪心”；一面劝导清廷发奋图强，认为“敌焰方张，得我巨款及沿海富庶之区，如虎傅翼，后患将不可知”，“深盼皇上振励于上，内外臣工齐心协力，及早变法求才，自强克敌，天下甚幸。”
马关条约的签订，在全国上下引起强烈反响。各阶层人民悲愤交集，声讨日本侵略罪行，抨击清廷和李鸿章的卖国行径。康有为在北京发动公车上书，要求在拒和、迁都、练兵、与日本决一死战的基础上，进行资产阶级性质的改革，使中国走上独立富强的道路。在清朝统治层中，内而宗室王公、部院∩垣，外而直省督抚、前敌将领，“莫不交章谏阻”，追究致败之由、误国之责，把一腔怨愤几乎都倾洒在李鸿章身上，形成了“国人皆曰可杀，万口一词”的局势。他们既不敢正视腐朽的封建制度是万恶之源，又不敢抨击真正的罪魁祸首慈禧一伙。他们对李鸿章的口诛笔伐，虽然有时意气多于冷静的分析，难于对其作出全面的切合实际的估价，但却反映了朝野上下的思想动向，表现了人们对战败乞和的愤慨和国运垂危的关注。
鉴于马关条约的流弊无穷和全国的抗议浪潮，清廷对和战问题，举棋不定。光绪以“和约事徘徊不能决，天颜憔悴”。翁同龢不赞成“毁约再战”，但“力陈批准宜缓”，企图借助俄、德、法迫使日本放弃台湾和辽东半岛。许多军机大臣对此表示怀疑，认为“不足恃”。翁同龢、李鸿藻“力斥之”，并在光绪面前“亦切陈之”。光绪欣赏此议，特派总署大臣往见俄、德、法驻华公使，并电饬驻俄、法等国公使与所在国外交部密商。
4 月 25 日，光绪“命枢臣偕庆邸请见皇太后面陈和战事”，内监传懿旨：“今日偶感冒，不能见，一切请皇帝旨办理。”第二天，军机见时，传懿旨说：“和战重大，两者皆有弊，不能断，令枢臣妥商一策以闻。”27 日，光绪亲自向慈禧“敷陈西迁之议”，慈禧“微笑摇首”，断然拒绝：“可不必”。“和战之局汝主之，此则我主之。”30 日，光绪命翁、李、孙等到患病的奕䜣家里会商，“令定和战之议”。孙毓汶“以所拟宣示稿就正”。奕䜣“以为是宣示者，俟批准后告群臣之词也，大意已偏在和字。
李鸿章主张按期批准互换马关条约，反对“毁约再战”。清廷指示李鸿章就割台、赔款问题电商伊藤“通融更改”，李鸿章断然拒绝，说自己作为马关条约的签订者，不能“改议电商”，“以一口说两样话，徒为外人訾笑。”这里既有恫吓，又有推诿，而意在迫使清廷按时批准换约。
由于李鸿章不知光绪“是否批准条约，至觉惶恐。“于是委派科士达赴京，“为这个条约申辩并催促批准。”科士达离津之前，在一个秘密会议上，李鸿章向他详细解释军机处每一位的个性及其政治的环境。4 月 30 日科士达会见军机大臣，他后来回忆说：“会议的目的是要使军机大臣深知皇帝批准和约之必要。我强调之点是：条约已不是李鸿章的条约而是皇帝的条约了，因为在签字前每一个字都电达北京，皇帝根据军机处的意见，才授权签字。假若他拒绝批准的话，那在文明世界之前，他将失掉了体面，对于皇帝的不体面，军机大臣是应负责的。”
面对着主和派和科士达胁追的光绪，本想争取俄、德、法的援助和刘坤一、王文韶的支持，但结果却成了泡影。俄、德、法劝告清廷批准和约；刘坤一、王文韶复奏说事关大局安危，应请军机大臣等通盘筹议，请旨定夺，连口头主战的腔调都改变了；而高高在上的慈禧又一再推脱卖国罪责。在这种情况下，光绪便于 5 月 2 日“幡然有批准之谕”。当然，光绪是和着泪水吞下这个苦果的。5 月 8 日清政府代表伍廷芳与日本代表伊东美久治在烟台互换批准书。同年 11 月 8 日由于俄、德、法的联合干涉，李鸿章与日本驻华公使林董在北京签订中日《辽南条约》，中国以银 3 千万两，赎回辽东半岛。
7 月 29 日，李鸿章抵京。第二天“与枢臣同起召见。”光绪“先慰问受伤愈否”，话锋一转，就诘责说：“身为重臣，两万万之款从何筹措；台湾一省送予外人，失民心，伤国体。”“词甚凌厉”，李鸿章“亦引咎唯唯”。经过甲午战争，使李鸿章赖以支撑其权威的北洋海陆军溃灭殆尽，加之主和辱国，群议指摘，帝党官僚乘机要求将他密召入都，勿复假以事权，后党要员荣禄也指责他“误国”，“甘为小人”。据时人说，甲午前，慈禧对李鸿章敬信。甲午后，慈禧信任奕励和荣禄。正因为这样，李鸿章人觐之后，便被留在北京，奉旨入阁办事，从而失去了直隶总督、北洋大臣的宝座。李鸿章哀叹：正当自己在仕途上“一路扶摇”之际，“乃无端发生中日交涉，至一生事业，扫地无余，如欧阳公所言‘半生名节，被后生辈描画都尽’，环境所迫，无可如何。”
