Es fácil darse cuenta de que 9, 8 y 7 deben ir en cifras de centenas…
Y por el mismo motivo, 6, 5 y 4 deben ser cifras de decenas y el resto de unidades.

El error es luego colocarlas en el mismo orden… Es decir, colocar 6 con el 9, 5 con el 8 y 4 con el 7, etc…
Si fuese una suma, ese orden hubiese dado igual pero siendo una multiplicación no es igual y hay que elegirlo bien. Colocar el 6 con el 9 significa que ese 6 (60) se multiplicará por 700 y 800 y por tanto es mejor colocarlo junto al 7, ya que de esta forma se multiplicará por 900 y 800… La idea es colocar la mayor decena (6) y unidad (3) junto al 7 (quedando 763) ya que así se multiplicarán por las centenas grandes. Y con la misma lógica los pequeños irían con el 9 (941) y los medianos con el 8 (852).

941*852*763

Haciéndolo de una forma más formal:

abc*def*ghi = (a*100 + …) * (d*100 + …) * (g*100 + …) =
= a*d*g * 10^6 + a*d*h * 10^5 + a*e*g*10^5 + b*d*g*10^5 + a*d*i * 10^4 …

Sólo hay un término con 10^6 así que es claro que a*d*g debe ser 9*8*7.
En el caso de términos 10^5, h se multiplica por a*d así que h deberá ser el mayor posible, 6, para multiplicarse por 9 y 8. De esta forma ese 6 no se desaprovecha. Para los términos 10^4 y elegir cuáles son c, f, i … lo mismo, la letra i aparece por primera vez (el lugar de mayor potencia de 10) en a*d*i*10^4 y por esa razón deberá ser el mayor posible.

Con un poco de Excel (y bastante tiempo libre) he llegado al mismo resultado que Gonzalo.
De hecho, el resultado 963 * 852 * 741 = 607 972 716, es el menor que se puede obtener haciendo que 7, 8 y 9 sean las centenas; 4, 5 y 6 las decenas; y 1, 2 y 3 las unidades.

941*852*763= 611 721 516

963 * 852 * 741 = 607 972 716

963*852*741
Los tres mas grandes deben de ser centenas, los siguientes 3 decenas y los tres mas pequeños tienen que ser el digito menos significativo.