Se ti va bene un desktop basta che ti prendi un qualsiasi assemblato, il sistema operativo è a parte e quindi installi o ti fai installare quello che vuoi.
Per i notebook invece ci sono solo poche aziende che te lo vendono custom, e alla fine ti costa di più... quindi meglio prenderle uno alla prima offerta e installarti Ubuntu al posto di Windows.
Per me ti conviene però tenere anche il windows, scegliendo di fare la doppia partizione durante l'installazione, nel caso che per qualcosa poi ti possa servire. In ogni caso lo puoi comunque installare di nuovo anche dopo, se ti dovesse servire, tanto con il notebook hai il seriale per l'attivazione.
Acquistare un pc con Windows e chiedere di togliere Windows e relativo rimborso è teoricamente possibile, ma in pratica una inutile rottura: devi usare un opposita procedura, facendo varie raccomandate, e alla fine ti rimborsano solo il valore della licenza OEM che ha un valore ridicolo (dell'ordine della decina di euro....). A meno che non ne vuoi fare una questione di principio non credo che ne valga la pena...
Alcuno produttori, come Dell, avevano a catalogo dei notebook con Ubuntu, con certificazione di compatibilità sui componenti usati, ma non so se attualmente li trovi ancora e comunque non avevano un gran hardware. La certificazione del funzionamento dei componenti con Linux è uno dei principali motivi (o scusa se preferite) che i produttori usano per giustificare la scelta di non vendere dispositivi con distribuzioni Linux...
L'unico piccolo consiglio che ti posso dare è di dare un occhiata ai forum di Ubuntu prima di prendere un notebook che hai adocchiato, per verificarne la compatibilità ed evitare qualche problemino che altrimenti potresti riscontrare. Di solito trovi qualche informazione sia su modelli specifici di notebook, sia su particolari componenti da preferire o evitare.