Der Nikkei schloss 0,34% niedriger bei 38.073,98, nachdem er zuvor um 0,5% gestiegen war.
"Die Rückgänge der Arm-Aktien trieben den Ausverkauf von Tokyo Electron und anderen Chip-Aktien an", sagte Shuji Hosoi, Senior Strategist bei Daiwa Securities.
Arm Holdings hatte eine Umsatzprognose für das Gesamtjahr abgegeben, die hinter den Erwartungen zurückblieb, so dass die in Frankfurt notierten Aktien des Unternehmens am Donnerstag um 10% fielen.
Die Aktien von Tokyo Electron, einem japanischen Chip-Hersteller, rutschten um fast 3% ab und waren damit der größte Belastungsfaktor für den Nikkei.
Der Technologie-Investor SoftBank Group, der rund 90% der Anteile an Arm Holdings hält, verlor ebenfalls rund 3%.
"Es gab heute keine weiteren wichtigen marktbewegenden Hinweise. Die meisten Aktien sind gestiegen", sagte Hosoi von Daiwa.
Der breiter gefasste Topix stieg um 0,26% auf 2.713,46. Von den mehr als 1.600 Aktien an der Tokyo Stock Exchange stiegen 1.081 Aktien, während 519 fielen.
Der Topix-Index für Value-Aktien stieg um 0,5% und übertraf damit den Index für Growth-Aktien, der stagnierte, da der Markt in Bezug auf Zinserhöhungen zu einem früheren Zeitpunkt vorsichtig wurde.
Die Vorstandsmitglieder der Bank of Japan haben sich auf ihrer Sitzung im April mit überwältigender Mehrheit für eine Zinserhöhung ausgesprochen, wobei viele die Notwendigkeit einer stetigen Anhebung der Zinsen forderten.
"Die Zusammenfassung war hawkischer als der Gouverneur (Kazuo) Ueda nach der Sitzung im letzten Monat geäußert hatte", sagte Shuutarou Yasuda, ein Marktanalyst bei Tokai Tokyo Intelligence Laboratory.
Die Rendite 10-jähriger japanischer Staatsanleihen stieg bis auf 0,91%, den höchsten Stand seit dem 26. April.
Höhere Renditen könnten Wachstumsaktien wie Chip- und anderen Technologieunternehmen schaden, deren Attraktivität in zukünftigen Cashflows liegt.
Zu den Gewinnern gehörten Kawasaki Heavy Industries, die um 14,3% zulegten und damit der größte Gewinner im Nikkei waren. Die Aktien des Motorradherstellers Yamaha Corp stiegen um 9,3%.