CDカセットプレーヤーはこれがいいのではないかと思います。
https://kakaku.com/item/K0000924673/
外部入力があるのでレコードプレーヤーを繋げれば良いです。
レコードプレーヤーはこれがいいかなと。
https://kakaku.com/item/K0001642626/
フルオートで面倒な初期設定もいりません。
ネット通販の最安値なら両方買って6万円以下で可能なようです。
両方を繋げるRCA-ステレオミニプラグは買う必要があります。1000円から2000円くらいの物がお勧め。