Das führt zu einer deutlichen Performance-Verbesserung und Hardware kann wieder abgebaut werden. Weiterhin werden Entwickler langsame Programme schreiben können (was ebenfalls in allen anderen Programmiersprachen gelingt), aber zumindest zeigt Twitter (neben so hoch skalierten Systemen wie eBay oder Facebook), dass Java grundsätzlich eine exzellente Performance bietet. Ein paar Details unter http://engineering.twitter.com/2011/04/twitter-search-is-now-3x-faster_1656.html. Die Kernbausteine der Lösung (Blender genannt) sind Apache Thrift, Apache Lucene und JBoss Netty.
Netty ist ein großartiges Tool. Ich hatte es bereits vor 2 Jahren verwendet und es war schon damals hervorragend dokumentiert und durchdacht. Aus meiner Sicht ein vorbildliches Open-Source Produkt welches die Netzwerk-Nio-Pakete von Java sehr gut kapselt um größtmögliche Performance rauszuschlagen.
Ein Test innerhalb eines Gigabit-Netzwerkes erbrachte eine 10-fache Leistungssteigerung gegenüber den normalen IO-Paketen und entlastete die CPU sehr deutlich (soweit nicht verwundernswert). Ich kann mir gar nicht vorstellen, wie Twitter überhaupt mit blockierenden Netzwerkthreads arbeiten konnte, Das ist doch tödlich.