德璀琳于11月26日到達日本，持李鴻章給日本當時首相伊藤博文的私人信函要與日本首相談判。日本當時還未達到他們軍事上的最大目的，而且更擔心由于接受德璀琳會引起列強的介入，從而會使日本處在不利的地位，因此以德璀琳不能作為清政府的正式代表為由而堅決拒絕。戰(zhàn)場上不斷失利，清政府在1895年1月派總理衙門大臣張蔭桓、湖南巡撫邵友濂作為正式使節(jié)赴日進行談判。2月11日，雙方談判一開始，日本談判代表伊藤博文即以中國代表“全權(quán)不足”為由，拒絕進行談判。日本認為清政府派出較低級的官員擔任談判代表是中國方面還不能承認處于完全失敗地位的表現(xiàn)，清政府也還不能完全接受日方提出的苛刻條件。因此就采取了這樣一種方式來拖延時間，以期在軍事上取得更多的勝利來達到對清政府進行最大勒索的可能。2月17日，日本政府正式提出和談的條件：除承認朝鮮獨立外，中國要賠償日本的軍費、割讓土地，并要求派出全權(quán)使節(jié)進行談判。在此之前，日本政府已經(jīng)提醒過清政府談判代表可派恭親王奕忻或李鴻章作為談判代表?；首鍝芜@一屈辱的使命會有損于滿族皇帝的形象。在這種情況下，清政府決定由李鴻章?lián)稳珯?quán)使節(jié)準備赴日談判。當時日本已放風，非割地不能言和。李鴻章感到割地事關(guān)重大，因此特別奏明光緒皇帝，以決定他能否在談判時答應(yīng)割地這一要求。光緒當然不敢做主，還是要就此請示慈禧。慈禧老奸巨猾，知道同意割地必然遭到國內(nèi)百姓和朝野上下的唾罵，借口有病躲避深宮避不見人，讓太監(jiān)傳出話來此事交光緒全權(quán)處理。光緒不肯輕易擔此罵名，遲遲不肯表態(tài)。然而遼東戰(zhàn)場的一再失利迫使光緒不得不應(yīng)允李鴻章有允許割地等在內(nèi)的談判、簽字畫押的權(quán)利。這樣，李鴻章才率隨從從天津上船前往日本。3月20日，以李鴻章為首的談判代表團在日本的馬關(guān)與日本政府的代表伊藤博文開始恥辱的談判。

早在1894年10月，日本政府內(nèi)部就開始醞釀如何利用戰(zhàn)爭向中國勒索的陰謀。日本外相陸奧宗光提出的方案就有中國割讓臺灣予日本的內(nèi)容。日本決定要求中國割讓臺灣出于兩點考慮：臺灣可以作為他們今后進攻中國大陸和南下太平洋的一個落腳點；臺灣豐富的資源可以彌補日本物產(chǎn)匱乏的情況，為日本帶來巨大的財富。隨著戰(zhàn)場的勝利，向中國索地賠款的要求在日本更加高漲起來。軍部、財相、駐各國大使以及各政黨紛紛表達意見，獻計獻策。一時間要求中國賠償巨款、割讓包括臺灣在內(nèi)中國領(lǐng)土的聲浪甚囂塵上。

談判在日本進行的情況為外電所報導(dǎo)，逐漸為國內(nèi)及臺灣民眾所聞。李鴻章赴日本前后，一些地方大員紛紛電詢北京有無割地之事。3月2日，臺灣巡撫唐景崧電詢軍機處有無割地之事，軍機處沒有正面回答有無日本索臺之說，只是讓唐景崧加緊戒備，不能大意。實際上當時清政府已決定接受日本提出的在割地賠款基礎(chǔ)上才能進行談判的屈辱條件，光緒也已準備批準給予李鴻章談判時允許割地之權(quán)。但此時又不可對外泄漏，只好搪塞愚弄來自各方的詢問。