Directional Derivatives and the Gradient

%23%20%2F%2F%2F%20script%0A%23%20requires-python%20%3D%20%22%3E%3D3.11%22%0A%23%20dependencies%20%3D%20%5B%0A%23%20%20%20%20%20%22marimo%22%2C%0A%23%20%20%20%20%20%22sympy%3D%3D1.14.0%22%2C%0A%23%20%20%20%20%20%22matplotlib%3D%3D3.10.3%22%2C%0A%23%20%20%20%20%20%22numpy%3D%3D2.4.3%22%2C%0A%23%20%5D%0A%23%20%2F%2F%2F%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.22.5%22%0Aapp%20%3D%20marimo.App(%0A%20%20%20%20width%3D%22medium%22%2C%0A%20%20%20%20app_title%3D%22Directional%20Derivatives%20and%20the%20Gradient%22%2C%0A)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Directional%20Derivatives%20and%20the%20Gradient%0A%0A%20%20%20%20Given%20a%20scalar%20function%20%24f(x%2C%20y)%24%2C%20we%20often%20want%20to%20know%20how%20fast%20%24f%24%20changes%0A%20%20%20%20as%20we%20move%20in%20an%20arbitrary%20direction%20from%20a%20point%20%24(x_0%2C%20y_0)%24.%0A%0A%20%20%20%20The%20**directional%20derivative**%20%24D_%7B%5Cmathbf%7Bu%7D%7D%20f%24%20answers%20this%3A%20it%20measures%20the%0A%20%20%20%20instantaneous%20rate%20of%20change%20of%20%24f%24%20in%20the%20direction%20of%20a%20unit%20vector%0A%20%20%20%20%24%5Cmathbf%7Bu%7D%20%3D%20(%5Ccos%5Ctheta%2C%20%5Csin%5Ctheta)%24.%0A%0A%20%20%20%20The%20**gradient**%20%24%5Cnabla%20f%20%3D%20%5Cleft(%5Cfrac%7B%5Cpartial%20f%7D%7B%5Cpartial%20x%7D%2C%20%5Cfrac%7B%5Cpartial%20f%7D%7B%5Cpartial%20y%7D%5Cright)%24%0A%20%20%20%20packages%20both%20partial%20derivatives%20into%20a%20single%20vector.%20The%20key%20relationship%20is%3A%0A%0A%20%20%20%20%24%24D_%7B%5Cmathbf%7Bu%7D%7D%20f%20%3D%20%5Cnabla%20f%20%5Ccdot%20%5Cmathbf%7Bu%7D%24%24%0A%0A%20%20%20%20This%20means%20the%20gradient%20points%20in%20the%20direction%20of%20steepest%20ascent%2C%20and%20the%20directional%0A%20%20%20%20derivative%20in%20any%20direction%20is%20just%20the%20projection%20of%20the%20gradient%20onto%20that%20direction.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20sympy%20as%20sp%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20return%20mo%2C%20np%2C%20plt%2C%20sp%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20np%2C%20sp)%3A%0A%20%20%20%20x%2C%20y%20%3D%20sp.symbols(%22x%20y%22)%0A%0A%20%20%20%20_functions%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22x**2%20%2B%20y**2%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20x**2%20%2B%20y**2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20X**2%20%2B%20Y**2%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22x**2%20-%20y**2%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20x**2%20-%20y**2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20X**2%20-%20Y**2%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22x*y%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20x%20*%20y%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20X%20*%20Y%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22sin(x)*cos(y)%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20sp.sin(x)%20*%20sp.cos(y)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20np.sin(X)%20*%20np.cos(Y)%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%7D%0A%0A%20%20%20%20func_dropdown%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20options%3Dlist(_functions.keys())%2C%0A%20%20%20%20%20%20%20%20value%3D%22x**2%20%2B%20y**2%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22f(x%2C%20y)%20%3D%22%2C%0A%20%20%20%20)%0A%0A%20%20%20%20mo.md(f%22**Choose%20a%20function%3A**%20%7Bfunc_dropdown%7D%22)%0A%20%20%20%20return%20func_dropdown%2C%20x%2C%20y%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(func_dropdown%2C%20np%2C%20sp%2C%20x%2C%20y)%3A%0A%20%20%20%20_functions%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22x**2%20%2B%20y**2%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20x**2%20%2B%20y**2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20X**2%20%2B%20Y**2%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22x**2%20-%20y**2%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20x**2%20-%20y**2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20X**2%20-%20Y**2%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22x*y%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20x%20*%20y%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20X%20*%20Y%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22sin(x)*cos(y)%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22expr%22%3A%20sp.sin(x)%20*%20sp.cos(y)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22numpy_fn%22%3A%20lambda%20X%2C%20Y%3A%20np.sin(X)%20*%20np.cos(Y)%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%7D%0A%0A%20%20%20%20_selected%20%3D%20_functions%5Bfunc_dropdown.value%5D%0A%20%20%20%20f_expr%20%3D%20_selected%5B%22expr%22%5D%0A%20%20%20%20f_numpy%20%3D%20_selected%5B%22numpy_fn%22%5D%0A%20%20%20%20return%20f_expr%2C%20f_numpy%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20x0_slider%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20-3%2C%203%2C%20value%3D1.0%2C%20step%3D0.1%2C%20label%3D%22x%5Cu2080%22%2C%20show_value%3DTrue%0A%20%20%20%20)%0A%20%20%20%20y0_slider%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20-3%2C%203%2C%20value%3D1.0%2C%20step%3D0.1%2C%20label%3D%22y%5Cu2080%22%2C%20show_value%3DTrue%0A%20%20%20%20)%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20**Evaluation%20point%3A**%0A%0A%20%20%20%20%7Bmo.hstack(%5Bx0_slider%2C%20y0_slider%5D%2C%20gap%3D2)%7D%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%20x0_slider%2C%20y0_slider%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(f_expr%2C%20mo%2C%20sp%2C%20x%2C%20x0_slider%2C%20y%2C%20y0_slider)%3A%0A%20%20%20%20%23%20partial%20derivatives%0A%20%20%20%20f_x%20%3D%20sp.diff(f_expr%2C%20x)%0A%20%20%20%20f_y%20%3D%20sp.diff(f_expr%2C%20y)%0A%0A%20%20%20%20%23%20gradient%20as%20a%20column%20vector%0A%20%20%20%20_grad%20%3D%20sp.Matrix(%5Bf_x%2C%20f_y%5D)%0A%0A%20%20%20%20%23%20evaluate%20at%20the%20chosen%20point%0A%20%20%20%20_x0%20%3D%20sp.Rational(x0_slider.value).limit_denominator(100)%0A%20%20%20%20_y0%20%3D%20sp.Rational(y0_slider.value).limit_denominator(100)%0A%0A%20%20%20%20_grad_at_pt%20%3D%20_grad.subs(%7Bx%3A%20_x0%2C%20y%3A%20_y0%7D)%0A%0A%20%20%20%20grad_x_val%20%3D%20float(f_x.subs(%7Bx%3A%20x0_slider.value%2C%20y%3A%20y0_slider.value%7D))%0A%20%20%20%20grad_y_val%20%3D%20float(f_y.subs(%7Bx%3A%20x0_slider.value%2C%20y%3A%20y0_slider.value%7D))%0A%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20%23%23%20Symbolic%20Gradient%0A%0A%20%20%20%20For%20%24f(x%2C%20y)%20%3D%20%7Bsp.latex(f_expr)%7D%24%3A%0A%0A%20%20%20%20%24%24f_x%20%3D%20%5Cfrac%7B%7B%5Cpartial%20f%7D%7D%7B%7B%5Cpartial%20x%7D%7D%20%3D%20%7Bsp.latex(f_x)%7D%24%24%0A%0A%20%20%20%20%24%24f_y%20%3D%20%5Cfrac%7B%7B%5Cpartial%20f%7D%7D%7B%7B%5Cpartial%20y%7D%7D%20%3D%20%7Bsp.latex(f_y)%7D%24%24%0A%0A%20%20%20%20%24%24%5Cnabla%20f%20%3D%20%5Cbegin%7B%7Bpmatrix%7D%7D%20%7Bsp.latex(f_x)%7D%20%5C%5C%20%7Bsp.latex(f_y)%7D%20%5Cend%7B%7Bpmatrix%7D%7D%24%24%0A%0A%20%20%20%20**At**%20%24(x_0%2C%20y_0)%20%3D%20(%7Bx0_slider.value%3A.1f%7D%2C%5C%20%7By0_slider.value%3A.1f%7D)%24%3A%0A%0A%20%20%20%20%24%24%5Cnabla%20f%5Cbig%7C_%7B%7B(%7Bx0_slider.value%3A.1f%7D%2C%5C%2C%7By0_slider.value%3A.1f%7D)%7D%7D%20%3D%20%5Cbegin%7B%7Bpmatrix%7D%7D%20%7Bsp.latex(_grad_at_pt%5B0%5D)%7D%20%5C%5C%20%7Bsp.latex(_grad_at_pt%5B1%5D)%7D%20%5Cend%7B%7Bpmatrix%7D%7D%20%5Capprox%20%5Cbegin%7B%7Bpmatrix%7D%7D%20%7Bgrad_x_val%3A.3f%7D%20%5C%5C%20%7Bgrad_y_val%3A.3f%7D%20%5Cend%7B%7Bpmatrix%7D%7D%24%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%20f_x%2C%20f_y%2C%20grad_x_val%2C%20grad_y_val%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(f_numpy%2C%20grad_x_val%2C%20grad_y_val%2C%20mo%2C%20np%2C%20plt%2C%20x0_slider%2C%20y0_slider)%3A%0A%20%20%20%20_fig%2C%20_ax%20%3D%20plt.subplots(figsize%3D(8%2C%207))%0A%20%20%20%20_fig.set_facecolor(%22white%22)%0A%20%20%20%20_ax.set_facecolor(%22white%22)%0A%20%20%20%20_ax.set_aspect(%22equal%22)%0A%0A%20%20%20%20%23%20create%20grid%20for%20contour%20plot%0A%20%20%20%20_xg%20%3D%20np.linspace(-4%2C%204%2C%20200)%0A%20%20%20%20_yg%20%3D%20np.linspace(-4%2C%204%2C%20200)%0A%20%20%20%20_X%2C%20_Y%20%3D%20np.meshgrid(_xg%2C%20_yg)%0A%20%20%20%20_Z%20%3D%20f_numpy(_X%2C%20_Y)%0A%0A%20%20%20%20%23%20level%20curves%0A%20%20%20%20_contour%20%3D%20_ax.contour(_X%2C%20_Y%2C%20_Z%2C%20levels%3D15%2C%20cmap%3D%22coolwarm%22%2C%20linewidths%3D1.2)%0A%20%20%20%20_ax.clabel(_contour%2C%20inline%3DTrue%2C%20fontsize%3D8%2C%20fmt%3D%22%25.1f%22)%0A%0A%20%20%20%20%23%20gradient%20arrows%20on%20a%20coarse%20grid%0A%20%20%20%20_xq%20%3D%20np.linspace(-3.5%2C%203.5%2C%2010)%0A%20%20%20%20_yq%20%3D%20np.linspace(-3.5%2C%203.5%2C%2010)%0A%20%20%20%20_Xq%2C%20_Yq%20%3D%20np.meshgrid(_xq%2C%20_yq)%0A%0A%20%20%20%20%23%20compute%20gradient%20numerically%20via%20central%20differences%0A%20%20%20%20_h%20%3D%200.01%0A%20%20%20%20_dfdx%20%3D%20(f_numpy(_Xq%20%2B%20_h%2C%20_Yq)%20-%20f_numpy(_Xq%20-%20_h%2C%20_Yq))%20%2F%20(2%20*%20_h)%0A%20%20%20%20_dfdy%20%3D%20(f_numpy(_Xq%2C%20_Yq%20%2B%20_h)%20-%20f_numpy(_Xq%2C%20_Yq%20-%20_h))%20%2F%20(2%20*%20_h)%0A%0A%20%20%20%20_ax.quiver(%0A%20%20%20%20%20%20%20%20_Xq%2C%20_Yq%2C%20_dfdx%2C%20_dfdy%2C%0A%20%20%20%20%20%20%20%20color%3D%22steelblue%22%2C%20alpha%3D0.6%2C%20scale%3D50%2C%20width%3D0.004%2C%0A%20%20%20%20%20%20%20%20headwidth%3D3%2C%20headlength%3D4%2C%20zorder%3D3%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20highlight%20the%20evaluation%20point%0A%20%20%20%20_ax.plot(x0_slider.value%2C%20y0_slider.value%2C%20%22o%22%2C%20color%3D%22red%22%2C%20ms%3D10%2C%20zorder%3D6)%0A%20%20%20%20_ax.annotate(%0A%20%20%20%20%20%20%20%20f%22(%7Bx0_slider.value%3A.1f%7D%2C%20%7By0_slider.value%3A.1f%7D)%22%2C%0A%20%20%20%20%20%20%20%20xy%3D(x0_slider.value%2C%20y0_slider.value)%2C%0A%20%20%20%20%20%20%20%20xytext%3D(x0_slider.value%20%2B%200.3%2C%20y0_slider.value%20%2B%200.4)%2C%0A%20%20%20%20%20%20%20%20fontsize%3D10%2C%20fontweight%3D%22bold%22%2C%20color%3D%22red%22%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20draw%20gradient%20vector%20at%20the%20evaluation%20point%20(thicker%2C%20darker)%0A%20%20%20%20_scale%20%3D%200.3%0A%20%20%20%20_ax.annotate(%0A%20%20%20%20%20%20%20%20%22%22%2C%0A%20%20%20%20%20%20%20%20xy%3D(%0A%20%20%20%20%20%20%20%20%20%20%20%20x0_slider.value%20%2B%20_scale%20*%20grad_x_val%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20y0_slider.value%20%2B%20_scale%20*%20grad_y_val%2C%0A%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20xytext%3D(x0_slider.value%2C%20y0_slider.value)%2C%0A%20%20%20%20%20%20%20%20arrowprops%3Ddict(arrowstyle%3D%22-%7C%3E%22%2C%20color%3D%22darkred%22%2C%20lw%3D2.5)%2C%0A%20%20%20%20%20%20%20%20zorder%3D7%2C%0A%20%20%20%20)%0A%20%20%20%20_ax.text(%0A%20%20%20%20%20%20%20%20x0_slider.value%20%2B%20_scale%20*%20grad_x_val%20%2B%200.15%2C%0A%20%20%20%20%20%20%20%20y0_slider.value%20%2B%20_scale%20*%20grad_y_val%20%2B%200.15%2C%0A%20%20%20%20%20%20%20%20r%22%24%5Cnabla%20f%24%22%2C%0A%20%20%20%20%20%20%20%20fontsize%3D13%2C%20fontweight%3D%22bold%22%2C%20color%3D%22darkred%22%2C%0A%20%20%20%20%20%20%20%20zorder%3D7%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20axis%20styling%0A%20%20%20%20_ax.grid(True%2C%20alpha%3D0.3%2C%20color%3D%22lightgray%22)%0A%20%20%20%20_ax.set_xlabel(%22x%22%2C%20fontsize%3D11%2C%20color%3D%22black%22)%0A%20%20%20%20_ax.set_ylabel(%22y%22%2C%20fontsize%3D11%2C%20color%3D%22black%22)%0A%20%20%20%20_ax.set_title(%0A%20%20%20%20%20%20%20%20%22Level%20curves%20with%20gradient%20field%20(blue)%20and%20gradient%20at%20point%20(red)%22%2C%0A%20%20%20%20%20%20%20%20fontsize%3D12%2C%20color%3D%22black%22%2C%20pad%3D10%2C%0A%20%20%20%20)%0A%20%20%20%20_ax.set_xlim(-4%2C%204)%0A%20%20%20%20_ax.set_ylim(-4%2C%204)%0A%20%20%20%20_ax.tick_params(colors%3D%22black%22)%0A%20%20%20%20for%20_sp%20in%20_ax.spines.values()%3A%0A%20%20%20%20%20%20%20%20_sp.set_color(%22gray%22)%0A%0A%20%20%20%20plt.tight_layout()%0A%20%20%20%20mo.as_html(_fig)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20np)%3A%0A%20%20%20%20theta_slider%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%200%2C%202%20*%20np.pi%2C%20value%3D0.5%2C%20step%3D0.05%2C%0A%20%20%20%20%20%20%20%20label%3D%22%5Cu03b8%20(direction%20angle)%22%2C%20show_value%3DTrue%2C%0A%20%20%20%20)%0A%0A%20%20%20%20mo.md(f%22**Direction%20angle%3A**%20%7Btheta_slider%7D%22)%0A%20%20%20%20return%20(theta_slider%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20f_numpy%2C%0A%20%20%20%20grad_x_val%2C%0A%20%20%20%20grad_y_val%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20np%2C%0A%20%20%20%20plt%2C%0A%20%20%20%20theta_slider%2C%0A%20%20%20%20x0_slider%2C%0A%20%20%20%20y0_slider%2C%0A)%3A%0A%20%20%20%20_theta%20%3D%20theta_slider.value%0A%20%20%20%20_ux%20%3D%20np.cos(_theta)%0A%20%20%20%20_uy%20%3D%20np.sin(_theta)%0A%0A%20%20%20%20%23%20directional%20derivative%20%3D%20grad%20f%20.%20u%0A%20%20%20%20_dir_deriv%20%3D%20grad_x_val%20*%20_ux%20%2B%20grad_y_val%20*%20_uy%0A%0A%20%20%20%20%23%20gradient%20magnitude%20and%20direction%0A%20%20%20%20_grad_mag%20%3D%20np.sqrt(grad_x_val**2%20%2B%20grad_y_val**2)%0A%20%20%20%20_grad_theta%20%3D%20np.arctan2(grad_y_val%2C%20grad_x_val)%20if%20_grad_mag%20%3E%201e-10%20else%200.0%0A%0A%20%20%20%20%23%20check%20special%20cases%0A%20%20%20%20_is_tangent%20%3D%20abs(_dir_deriv)%20%3C%200.05%0A%20%20%20%20_is_max%20%3D%20abs(_theta%20-%20_grad_theta)%20%25%20(2%20*%20np.pi)%20%3C%200.1%20if%20_grad_mag%20%3E%201e-10%20else%20False%0A%0A%20%20%20%20_status%20%3D%20%22%22%0A%20%20%20%20if%20_is_tangent%3A%0A%20%20%20%20%20%20%20%20_status%20%3D%20r%22%20%24%5Capprox%200%24%20%26mdash%3B%20**tangent%20to%20level%20curve**%20(perpendicular%20to%20%24%5Cnabla%20f%24)%22%0A%20%20%20%20elif%20_is_max%3A%0A%20%20%20%20%20%20%20%20_status%20%3D%20r%22%20%26mdash%3B%20**maximum%20rate**%20(aligned%20with%20%24%5Cnabla%20f%24)%22%0A%0A%20%20%20%20%23%20---%20contour%20plot%20with%20direction%20arrow%20---%0A%20%20%20%20_fig%2C%20_ax%20%3D%20plt.subplots(figsize%3D(8%2C%207))%0A%20%20%20%20_fig.set_facecolor(%22white%22)%0A%20%20%20%20_ax.set_facecolor(%22white%22)%0A%20%20%20%20_ax.set_aspect(%22equal%22)%0A%0A%20%20%20%20_xg%20%3D%20np.linspace(-4%2C%204%2C%20200)%0A%20%20%20%20_yg%20%3D%20np.linspace(-4%2C%204%2C%20200)%0A%20%20%20%20_X%2C%20_Y%20%3D%20np.meshgrid(_xg%2C%20_yg)%0A%20%20%20%20_Z%20%3D%20f_numpy(_X%2C%20_Y)%0A%0A%20%20%20%20_contour%20%3D%20_ax.contour(_X%2C%20_Y%2C%20_Z%2C%20levels%3D15%2C%20cmap%3D%22coolwarm%22%2C%20linewidths%3D1.2)%0A%20%20%20%20_ax.clabel(_contour%2C%20inline%3DTrue%2C%20fontsize%3D8%2C%20fmt%3D%22%25.1f%22)%0A%0A%20%20%20%20%23%20evaluation%20point%0A%20%20%20%20_x0%20%3D%20x0_slider.value%0A%20%20%20%20_y0%20%3D%20y0_slider.value%0A%20%20%20%20_ax.plot(_x0%2C%20_y0%2C%20%22o%22%2C%20color%3D%22red%22%2C%20ms%3D10%2C%20zorder%3D6)%0A%0A%20%20%20%20%23%20gradient%20arrow%20at%20point%0A%20%20%20%20_scale%20%3D%200.3%0A%20%20%20%20_ax.annotate(%0A%20%20%20%20%20%20%20%20%22%22%2C%0A%20%20%20%20%20%20%20%20xy%3D(_x0%20%2B%20_scale%20*%20grad_x_val%2C%20_y0%20%2B%20_scale%20*%20grad_y_val)%2C%0A%20%20%20%20%20%20%20%20xytext%3D(_x0%2C%20_y0)%2C%0A%20%20%20%20%20%20%20%20arrowprops%3Ddict(arrowstyle%3D%22-%7C%3E%22%2C%20color%3D%22darkred%22%2C%20lw%3D2.5)%2C%0A%20%20%20%20%20%20%20%20zorder%3D7%2C%0A%20%20%20%20)%0A%20%20%20%20_ax.text(%0A%20%20%20%20%20%20%20%20_x0%20%2B%20_scale%20*%20grad_x_val%20%2B%200.15%2C%0A%20%20%20%20%20%20%20%20_y0%20%2B%20_scale%20*%20grad_y_val%20%2B%200.15%2C%0A%20%20%20%20%20%20%20%20r%22%24%5Cnabla%20f%24%22%2C%0A%20%20%20%20%20%20%20%20fontsize%3D12%2C%20fontweight%3D%22bold%22%2C%20color%3D%22darkred%22%2C%20zorder%3D7%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20direction%20arrow%20u%20at%20the%20point%0A%20%20%20%20_arrow_len%20%3D%201.0%0A%20%20%20%20_ax.annotate(%0A%20%20%20%20%20%20%20%20%22%22%2C%0A%20%20%20%20%20%20%20%20xy%3D(_x0%20%2B%20_arrow_len%20*%20_ux%2C%20_y0%20%2B%20_arrow_len%20*%20_uy)%2C%0A%20%20%20%20%20%20%20%20xytext%3D(_x0%2C%20_y0)%2C%0A%20%20%20%20%20%20%20%20arrowprops%3Ddict(arrowstyle%3D%22-%7C%3E%22%2C%20color%3D%22forestgreen%22%2C%20lw%3D2.5)%2C%0A%20%20%20%20%20%20%20%20zorder%3D7%2C%0A%20%20%20%20)%0A%20%20%20%20_ax.text(%0A%20%20%20%20%20%20%20%20_x0%20%2B%20_arrow_len%20*%20_ux%20%2B%200.15%2C%0A%20%20%20%20%20%20%20%20_y0%20%2B%20_arrow_len%20*%20_uy%20%2B%200.15%2C%0A%20%20%20%20%20%20%20%20r%22%24%5Cmathbf%7Bu%7D%24%22%2C%0A%20%20%20%20%20%20%20%20fontsize%3D12%2C%20fontweight%3D%22bold%22%2C%20color%3D%22forestgreen%22%2C%20zorder%3D7%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20axis%20styling%0A%20%20%20%20_ax.grid(True%2C%20alpha%3D0.3%2C%20color%3D%22lightgray%22)%0A%20%20%20%20_ax.set_xlabel(%22x%22%2C%20fontsize%3D11%2C%20color%3D%22black%22)%0A%20%20%20%20_ax.set_ylabel(%22y%22%2C%20fontsize%3D11%2C%20color%3D%22black%22)%0A%20%20%20%20_ax.set_title(%0A%20%20%20%20%20%20%20%20r%22Direction%20%24%5Cmathbf%7Bu%7D%24%20(green)%20vs%20gradient%20%24%5Cnabla%20f%24%20(red)%20at%20the%20point%22%2C%0A%20%20%20%20%20%20%20%20fontsize%3D12%2C%20color%3D%22black%22%2C%20pad%3D10%2C%0A%20%20%20%20)%0A%20%20%20%20_ax.set_xlim(-4%2C%204)%0A%20%20%20%20_ax.set_ylim(-4%2C%204)%0A%20%20%20%20_ax.tick_params(colors%3D%22black%22)%0A%20%20%20%20for%20_spine%20in%20_ax.spines.values()%3A%0A%20%20%20%20%20%20%20%20_spine.set_color(%22gray%22)%0A%0A%20%20%20%20plt.tight_layout()%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%23%23%20Directional%20Derivative%20Explorer%0A%0A%20%20%20%20**Unit%20direction%3A**%20%24%5C%5Cmathbf%7B%7Bu%7D%7D%20%3D%20(%5C%5Ccos%5C%5Ctheta%2C%5C%5C%2C%20%5C%5Csin%5C%5Ctheta)%20%3D%20(%7B_ux%3A.3f%7D%2C%5C%5C%2C%20%7B_uy%3A.3f%7D)%24%0A%0A%20%20%20%20**Directional%20derivative%3A**%0A%0A%20%20%20%20%24%24D_%7B%7B%5C%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20f%20%3D%20%5C%5Cnabla%20f%20%5C%5Ccdot%20%5C%5Cmathbf%7B%7Bu%7D%7D%20%3D%20(%7Bgrad_x_val%3A.3f%7D)(%7B_ux%3A.3f%7D)%20%2B%20(%7Bgrad_y_val%3A.3f%7D)(%7B_uy%3A.3f%7D)%20%3D%20%7B_dir_deriv%3A.4f%7D%7B_status%7D%24%24%0A%0A%20%20%20%20%7C%20Quantity%20%7C%20Value%20%7C%0A%20%20%20%20%7C----------%7C-------%7C%0A%20%20%20%20%7C%20%24%5C%5C%7C%5C%5Cnabla%20f%5C%5C%7C%24%20(max%20possible%20%24D_%7B%7B%5C%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20f%24)%20%7C%20%7B_grad_mag%3A.4f%7D%20%7C%0A%20%20%20%20%7C%20%24D_%7B%7B%5C%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20f%24%20(current%20direction)%20%7C%20%7B_dir_deriv%3A.4f%7D%20%7C%0A%20%20%20%20%7C%20Angle%20between%20%24%5C%5Cnabla%20f%24%20and%20%24%5C%5Cmathbf%7B%7Bu%7D%7D%24%20%7C%20%7Bnp.degrees(abs(_theta%20-%20_grad_theta)%20%25%20(2*np.pi)%20if%20_grad_mag%20%3E%201e-10%20else%200)%3A.1f%7D%5Cu00b0%20%7C%0A%0A%20%20%20%20%7Bmo.as_html(_fig)%7D%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(f_expr%2C%20f_x%2C%20f_y%2C%20mo%2C%20sp)%3A%0A%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20%23%23%20Chain%20Rule%20Derivation%0A%0A%20%20%20%20The%20directional%20derivative%20arises%20from%20the%20chain%20rule.%20If%20we%20parametrize%20a%20path%0A%20%20%20%20through%20%24(x_0%2C%20y_0)%24%20in%20direction%20%24%5Cmathbf%7B%7Bu%7D%7D%20%3D%20(%5Ccos%5Ctheta%2C%20%5Csin%5Ctheta)%24%20as%3A%0A%0A%20%20%20%20%24%24x(s)%20%3D%20x_0%20%2B%20s%5Ccos%5Ctheta%2C%20%5Cqquad%20y(s)%20%3D%20y_0%20%2B%20s%5Csin%5Ctheta%24%24%0A%0A%20%20%20%20then%20the%20rate%20of%20change%20of%20%24w%20%3D%20f(x(s)%2C%20y(s))%24%20with%20respect%20to%20the%20parameter%20%24s%24%20is%3A%0A%0A%20%20%20%20%24%24%5Cfrac%7B%7Bdw%7D%7D%7B%7Bds%7D%7D%20%3D%20%5Cfrac%7B%7B%5Cpartial%20f%7D%7D%7B%7B%5Cpartial%20x%7D%7D%20%5Ccdot%20%5Cfrac%7B%7Bdx%7D%7D%7B%7Bds%7D%7D%20%2B%20%5Cfrac%7B%7B%5Cpartial%20f%7D%7D%7B%7B%5Cpartial%20y%7D%7D%20%5Ccdot%20%5Cfrac%7B%7Bdy%7D%7D%7B%7Bds%7D%7D%24%24%0A%0A%20%20%20%20For%20%24f(x%2Cy)%20%3D%20%7Bsp.latex(f_expr)%7D%24%3A%0A%0A%20%20%20%20**Step%201%20---%20partial%20derivatives%3A**%0A%0A%20%20%20%20%24%24f_x%20%3D%20%7Bsp.latex(f_x)%7D%2C%20%5Cqquad%20f_y%20%3D%20%7Bsp.latex(f_y)%7D%24%24%0A%0A%20%20%20%20**Step%202%20---%20chain%20rule%20expansion%3A**%0A%0A%20%20%20%20%24%24%5Cfrac%7B%7Bdw%7D%7D%7B%7Bds%7D%7D%20%3D%20(%7Bsp.latex(f_x)%7D)%20%5Ccos%5Ctheta%20%2B%20(%7Bsp.latex(f_y)%7D)%20%5Csin%5Ctheta%24%24%0A%0A%20%20%20%20**Step%203%20---%20recognize%20as%20dot%20product%3A**%0A%0A%20%20%20%20%24%24%3D%20%5Cunderbrace%7B%7B%5Cbegin%7B%7Bpmatrix%7D%7D%20%7Bsp.latex(f_x)%7D%20%5C%5C%20%7Bsp.latex(f_y)%7D%20%5Cend%7B%7Bpmatrix%7D%7D%7D%7D_%7B%7B%3D%20%5Cnabla%20f%7D%7D%20%5Ccdot%20%5Cunderbrace%7B%7B%5Cbegin%7B%7Bpmatrix%7D%7D%20%5Ccos%5Ctheta%20%5C%5C%20%5Csin%5Ctheta%20%5Cend%7B%7Bpmatrix%7D%7D%7D%7D_%7B%7B%3D%20%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20%3D%20%5Cnabla%20f%20%5Ccdot%20%5Cmathbf%7B%7Bu%7D%7D%24%24%0A%0A%20%20%20%20This%20shows%20that%20the%20directional%20derivative%20is%20the%20**dot%20product**%20of%20the%20gradient%0A%20%20%20%20with%20the%20unit%20direction%20vector.%20Geometrically%3A%0A%0A%20%20%20%20-%20**Maximum**%20%24D_%7B%7B%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20f%20%3D%20%5C%7C%5Cnabla%20f%5C%7C%24%20when%20%24%5Cmathbf%7B%7Bu%7D%7D%24%20is%20parallel%20to%20%24%5Cnabla%20f%24%20(steepest%20ascent)%0A%20%20%20%20-%20**Zero**%20%24D_%7B%7B%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20f%20%3D%200%24%20when%20%24%5Cmathbf%7B%7Bu%7D%7D%24%20is%20perpendicular%20to%20%24%5Cnabla%20f%24%20(tangent%20to%20level%20curve)%0A%20%20%20%20-%20**Minimum**%20%24D_%7B%7B%5Cmathbf%7B%7Bu%7D%7D%7D%7D%20f%20%3D%20-%5C%7C%5Cnabla%20f%5C%7C%24%20when%20%24%5Cmathbf%7B%7Bu%7D%7D%24%20is%20antiparallel%20to%20%24%5Cnabla%20f%24%20(steepest%20descent)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A