40m² zählt schon zu den größeren Zimmern und für eine Kompaktanlage ist das schon eher zu groß, und bei deinen Budget kannst du dir auch was größeres leisten.
Bei den Lautsprechern sollte man die traditionellen Lautsprecherhersteller bevorzugen die sich auf Lautsprecher spezialisiert haben und über eine langjährige Erfahrung verfügen z. B. KEF, Magnat, Nubert, Heco, Dali, Canton, Dynaudio, ASW, Teufel. Diese Hersteller (Liste ist natürlich nicht vollständig) bieten im Preisbereich von 500-800 Euro sehr gute Regalboxen an. Klanglich hat dabei jeder Hersteller seine eigene Note weshalb man Lautsprecher eben probehören sollte.
Oder man liest sich Tests durch die auch ausführlich auf die einzelnen Kriterien (Bass- Mittel- Hochtonwiedergabe, Natürlichkeit, Spritzigkeit, Räumliche Auflösung usw.) eingeht. Aber auch hier braucht erst ein mal einen eigenen Vergleichswert damit man weiß welche Punkte einen wichtig sind. Bei der Größe sollte man bedenken das eine gute Basswiedergabe eine gewisse Mindestgröße braucht, denn der Bass sollte noch vollständig vom Stereosystem übertragen werden. Der Subwoofer sollte nur den Sub Bass übertragen was bei zu kleinen Satellitenboxen ohne ein Bassloch nicht machbar ist.
Hier noch ein paar konkrete Modelle:
Im oberen Preisbereich: ASW Cantinus 212 und die Magnat Quantum Edelstein.
Im mittleren Segment die KEF Q300 und deutlich günstiger geht es noch mit der Nubert Nuline 34 (335€) da bleibt noch genug Geld für einen Subwoofer. Alle diese Lautsprecher bekamen bei Tests sehr gute Bewertungen und jeder Hersteller hat in diesen Bereich natürlich noch weitere Modelle.
Auf Modelle mit noch kleineren Gehäuse würde ich nicht mehr zurückgreifen. Diese Modelle und andere mit vergleichbarer Gehäusegröße haben genug Bassfundament um auch ohne Subwoofer auszukommen und wer mehr Bass will kann dann problemlos einen Subwoofer dazustellen. Bei kleinen Boxen mit zu wenig Bassfundament hat man das Problem das der Subwoofer dann einen Teil des oberen Bassbereichs mit übernehmen muss was klanglich deutlich schlechter ist.
Beim Verstärker kannst du ruhig zu einen Modell von Denon, Onkyo, Pioneer, Yamaha usw. greifen, die liegen alle auf ähnlichen Niveau und hier entscheidet dann mehr die Bedienung und die Ausstattung des Gerätes. Die Frage die sich noch stellt ist allerdings welche Produktgattung (Stereoverstärker, Stereoreceiver oder ein AV Receiver), das kommt ganz darauf an welche Geräte du noch einbinden willst. Bei reinen Stereokomponenten hat man meist das Problem das sie keine digitalen Eingänge aufweisen und AV Komponenten (TV-DVD-BluRay) fehlt es an analogen Ausgängen. Hier bekommt man dann schnell Anschlussprobleme.
AV Receiver kann man auch im Stereobetrieb nutzen und damit dann nicht zu viele Ausgangsstufen brach liegen kann man einige Modelle im Bi-Amping Modus betreiben. Dann wird der Hochton und der Tieftonbereich getrennt über zwei Ausgangsstufen versorgt. Voraussetzung ist natürlich eine Box die auch über Bi-Wiring Anschlüsse verfügt, was aber bei den Kanditaten in der genannten Preiskategorie überwiegend der Fall ist.