Нейросети. Основы - Дэвид Рид

Скачать книгу

градиенты функции потерь по отношению к каждому параметру (весу и смещению) в сети. Для этого используется правило цепочки из математического анализа, которое позволяет вычислить производные сложных функций. Для каждого слоя вычисляются градиенты ошибок, которые указывают, насколько изменение каждого параметра повлияет на итоговую ошибку. Эти градиенты затем используются для корректировки параметров.

      4. Обновление параметров

      После вычисления градиентов на этапе обратного распространения параметры модели обновляются, чтобы уменьшить ошибку. Это осуществляется с помощью метода градиентного спуска. Веса и смещения корректируются в направлении, противоположном градиенту, с использованием некоторой скорости обучения. Этот процесс обновления повторяется многократно, пока модель не достигнет желаемого уровня точности или не будет выполнено заданное число итераций. Обновление параметров позволяет модели постепенно улучшать свои предсказания, уменьшая значение функции потерь с каждым шагом обучения.

      Пример кода для обратного распространения ошибки

      Рассмотрим пример, демонстрирующий выполнение обратного распространения ошибки на простом искусственном нейроне. Этот пример поможет понять, как вычисляются и обновляются параметры модели.

      Конец ознакомительного фрагмента.

      Текст предоставлен ООО «Литрес».

      Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

      Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

/9j/4AAQSkZJRgABAQEASABIAAD/2wBDAAgGBgcGBQgHBwcJCQgKDBQNDAsLDBkSEw8UHRofHh0aHBwgJC4nICIsIxwcKDcpLDAxNDQ0Hyc5PTgyPC4zNDL/2wBDAQkJCQwLDBgNDRgyIRwhMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjL/wgARCAhhBdwDASIAAhEBAxEB/8QAGwABAAIDAQEAAAAAAAAAAAAAAAQFAQIDBgf/xAAaAQEBAQEBAQEAAAAAAAAAAAAAAQIDBAUG/9oADAMBAAIQAxAAAAH34AAAADCMigAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAK6n9Tx3jXv5fpZ6Vpvz6AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAYiTMJ5SzuKrpi1z5P0EsxjONgAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAaef9HjWfN+ijUG8erVllz6ZGaFAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAYzX8NZt2M5oKxkYxsKSL6WPvHTp5e2SyYzjoAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAABiqtlnl/R485vHqVTa43ljMoAGKa6XPnPQcaDefUIM3nvIUAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAABjIponpI28dt/L3ZNYzjYADXYUG17X75z8+Z9BNdhnQAAAAAAAAAAAAAAAAAAAAAABjBs1GzAy1xG7TcCgAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAGMjWiv8XNHeQanefSuXTnvIUADj5/02NZhTqLpZcsZxsAAAAAAAAAAAAAAAAAAAABjOCl8p6/w3k+1MnVeefp+jxeVH6/iU/Llnxfoc+88L7/t86Y129XxwoAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAADCvjazdMZxoKAxp0J5y0nU28XOaW5zrImgAMV9iTz19xpN49I49cbyFAAAAAAAAAAAAAAAAAMDIANPA/QInP1fO5nSv8X3s51Tp15yPTb82l7jp6fh75OvAKAAAAAAAAAAAAAGDIAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAMVdrizzfo43n949WjyOewUBjIgVfouWsbdPNXRLYzjYUA59EecuJNH053yvsMbBQAAAAByjo8fz5e32uPFTE9SO3iOfiOfp928Ex6PevEe16ebdHgXnbqTSbvsee0m/SPL85r1mfHc5r2jx3sN8Monn19W8lpnp66t6z9cKHvawsdeu/j849Hs+nnPQ9vFsY3zyxqboUDPW7eZ5Y6+sefut8ezGdcwDGDKgoeXs94+cd8dvoOfI+k6+SUxnfAABjSkz0vnjY/P1e6z5KfrlfOXXp5jGh0VPLPW7UOmd+hx5vRr07ynOa9e8ZrNe2Rqnflv3m8Z7eleZ1PT58rqvq3k9V9c8fiPY5hS+vky8zx5+r1jyM+z0DGenlY18rjt6zPh5WO/rkaR18WRQAAAAAAAAAAAAAAAAADn0wnmLewoumL3NHd41kTQDGRrRX+LmrtamPrN8xnHQABjKKfa1remLLNNcZ1kSgAAAIcytzvwu3F8/9RImVdrrj7fpw7+783E+dfQPAeb7GGcef6vb6H4H3vo+N5/y/ofPY9u2MOXr2O1xHztpNgvT6L87+g+j49X5H1Hk8+jtvGcvZ7G9pLr2/nc+I9J4Tn7TLy/Yx7Dx9118ntPM+h+c9vm2MHi832Qz0BUiOuff2Hzv6B7Pz3Ux28mvjpnl/L9dvo831nfgs36cCfQZ3gPee3890Yz18qF18Fy9m0I8X39tSXfTbW2d7r5vd9vne0qLah9PyfH5w+f8Ap9muaJHJjTBOgJ7rw/tvEdvnYHH6QAAIC+1taqf7vzPgM8Xi/RSLKlutcPZ7ctvd+dpPHSo3i/R4Zxz9Nr7n5r9E9XxZA9PzAAAAAAAAAAAAAAAAAAAGM4K2t9JH3jvt5b0cvYZ0ABiJMwnnb/Wh3j0eY/fG8hQGMivhXkPeJmaC9zdhNAAAKe4o8dvFj5/6je3pb/fk9X249fd+drPCe38P5fthw+jP914n23p+L5Cls6zj9MMegtJe/NQPTSLz8i9t21y8Z77Tr18HnfMei87x+q30c/V7a2rcez855qrPJ+hzgz0XdJe783qfnX0L5708WBw+sS/S78vj3vaDXKhHL3PY+Ov+nj9hH7ec9fxPMaHh/Tttb28ptP7ar7/I8WPN917vwnpevz/VYxWez4nn6V08H6XmM9ulzY3Pf5Hzvbvnl9CHt04Tf0ehtqP1/D84PH+gE+4gL3vrz+beska5+L29z3vKN4j3vgyRHkzseqo0tKvPYJ0ZtvWdfD8+2+g5154faRC7fP8ACDxfpd7uh9Fvy+opLnwPo+XFzh5PvAvX6F8++g9/kSM4z6/kBQAAAAAAAAAAAAAAABEkJuFAYyOfnPTNZgzqCRZcMZxsABrsKCxm0+8XKsssayFAAi1PoI28d9vP32bsJoAB530Xmefp8qPB+kej85N35/fdPF8vT8m98ZMh+f6gc/Xbez8h7D1fB8FCkR/P9pnG817+R53Pr/P+iz5nmvqs+V9BvjLZzvh4yit6jwfpQx6PfeVv/Gd/lhw+qA9B5/0e/Je/P/e+C6ecOH07j2Pk/W+r4O8KfTdvJ43n15eD9Muai61x9d4b2nzzt8/Ueb7L2vjPoPb5kiHOh+r5Hho54P066pbW8vbeL9d8+9Hzc5xjz/V5zoPprz9C2gev8/4jQ8X6cSU9z5n1fj/R8WoHm+49n430PTxenz57X0/L9Jny2q+rzWWvTyY06LnhnszrzHl/U+W8n3w5e279f5L1vq+D1Zej5+Ke5oc9/Gj5/wCnem8z6jp4+vkpcSbDHpAkfQPBe+9Hxu2T1fKCgAAAAAAAAAAAAAAAOPnvT6azz7+ZukmDGwoBUW+LKC/g1O8elab8+gAAFXzt4G8T80d3m5E0ABHqL+PrPbagvY2E0A8n6zx3L2UA8P6EDeVCzcd+WeYbazd96vy/pvV8H57y21833W2Oqc86FCWR7HxXr+/zLvOM+v4vgq2bC+f+oba5z1tKrOLgbzeuMjHp/Meq6eOw8L7bxOuQcfo+i9J8+17fO9Z5bjnPowOfq6eo857rt8uP4X3PhWg4/Sk++8P7r0fF6wp1b6fn+J4WEDwfpFrrK1wt/Feq8rc9ObPL249z4f6H2+dIZ29fxYHK0xnpWdZyOXifd+A5+2AZ8v3MunG46cyVvpser9D5b1Ht/O7jt5QPLeY9N5nw/og5ey/9Z5X1Xr/P9R6PC856Py/P0+XHg/Srap2vLUTq2YZwzi2f7rw/uPR8XuPV8wAAAAAAAAAAAAAAAAADHn/Q4ua+wpempbZxnGwAEeQTzHoN/O9MelzCmc95CgARKq/4az128/enQZ0ABHqb6LrMjaju4yJp4j2/g+Hvqzt5Pu8W19edDI9v27fO+fcbqm4/RMM9fTX/AJ6/9fwPng8v3+lhXSteeE9lI15/Ddvd9dcvEerm56ePptjHfyfOo/TT5/6nDrpNaia6WEyH08NXnDn7d/VeS9h18G/j/W+Qs

Скачать книгу