Ciao e benvenuto al forum!
Quando si tratta di massimi e minimi, ricordati sempre "derivate"! La ricerca dei minimi e massimi per una funzione avviene grazie al preziosissimo Teorema di Fermat (il quale afferma che un punto di minimo/massimo relativo di una funzione è necessariamente uno zero della sua derivata prima).
L'idea dunque più banale che viene in mente è ricorrere prima alla determinazione della funzione derivata, e poi eventualmente applicare Ruffini per scomporlo e trovare gli zeri della derivata prima.
Il metodo di Ruffini è uno strumento che ci consente di ricavare gli zeri della funzione senza passare per calcoli analitici. Come noi sappiamo però, è uno strumento valido per calcolare gli zeri interi, in quanto l'applicazione del metodo richiede che siano zeri interi.
La funzione 8640n^2-2800n^3+315n^4-12n^5 ha come derivata: \frac{df(n)}{dn}=8640*2n-2800*3n^2+315*4n^3-12*5n^4=\\=17280n-8400n^2+1260n^3-60n^4 A questo punto per semplificarci il problema possiamo mettere in evidenza i termini in comune tra i 4 addendi (vedo multipli di 2 e un n che si possono mettere in evidenza) e in definitiva avremo: f'(n)=60n(288-140n+21n^2-n^3)E ci siamo semplificati l'espressione.
Ora applichiamo Ruffini ma solo all'espressione in parentesi, andando a ricercare i possibili zeri tra i divisori di 288 (sono tanti, partiamo da quelli più piccoli comprendendo 1,-1... e vediamo se riusciamo ad acchiappare uno zero) e si può vedere che dopo aver scartato 1,-1,2,-2 il primo zero è 4 (Infatti f'(4)=60*4(288-140*4+21*4^2-4^3)=0).
Allora scomponiamo con Ruffini la sola parentesi:

A questo punto, per la seconda parentesi, puoi cercarti le soluzioni o con la formula risolutiva delle equazioni di secondo grado, o se vuoi allungarti i calcoli puoi ancora proseguire con Ruffini, ma chi te lo fa fare: usa la formula risolutiva delle equazioni di secondo grado, e ti ricavi i due zeri anche della seconda parentesi, e ti sei trovato gli zeri:
n=\frac{-17\pm\sqrt{17^2-4(-1)(-72)}}{-2}=\frac{-17\pm1}{-2}\rightarrow n_1=9,n_2=8Dunque, la funzione derivata può essere riscritta (a meno del segno di cui poco ci interessa in questo caso, ma se vuoi essere pignolo devi aggiungerci un meno davanti a tutta l'espressione) come:f'(n)=60n(n-4)(n-8)(n-9)E' fatta: ora devi sostituire n=0,n=4,n=8,n=9 all'espressione di partenza, e vedere quale ti dà il risultato il più grande (aiutati con una calcolatrice scientifica, che ti semplifica enormemente i calcoli) e troverai che il massimo rendimento lo avrai per n=4.
Tant'è che se provo a tracciarne il grafico (aiutiamoci con una calcolatrice grafica) vedremo infatti che il massimo lo si raggiunge proprio a n=4:

Fammi sapere se è tutto chiaro! 👍