Nikkei-indexet backade 2,3 procent, efter tisdagens ras på 5,4 procent. Nedgången under de två dagarna var den största sedan augusti förra året, och indexet är nu nere på den lägsta nivån sedan oktober 2014.
"Japanska aktier har åkt på en trippel-knock och det är svårt att studsa tillbaka. Vi ser oro för finansiella institutioner i Europa, problem på obligationsmarknaden, och oron har inte lindrats. Det finns fortfarande en vaksamhet gentemot råvarubolagens rapporter i USA, och det är negativt, plus att yenen betraktas som en tillflyktsort", sade Tomoichiro Kubota, analytiker vid Matsui Securities, till Bloomberg News.
De japanska bankerna hörde till dagens förlorare. Bland annat tappade Mitsubishi UFJ Financial Group 7,1 procent, efter tisdagens kurstapp på 8,7 procent.
Softbank tappade samtidigt 3,5 procent, efter att kostnaden för att försäkra sig mot en betalningsinställelse från banken, genom så kallade CDS:er, stigit till den högsta kostnaden sedan juni 2010.
På makronivå ligger Fed-chefen Janet Yellens anförande i kongressen senare på onsdagen dra till sig marknadsaktörernas uppmärksamhet.
De kinesiska börserna håller stängt för nyårsfirande hela veckan.