Вы здесьНесколько книг одним архивом.
Опубликовано вс, 01/06/2008 - 15:22 пользователем larin
С самого начала выкачка нескольких книг одним архивом была приятной фишкой, уникальной для Либрусека.
|
Вход на сайтПоиск по блогам и форумамUser menuПоследние комментарии
babajga RE:Отчаянная осень 57 мин.
babajga RE:Сказки Сени Малины 1 час babajga RE:Сказки 1 час babajga RE:Мои четвероногие друзья 2 часа DGOBLEK RE:Подайте бедному копеечку на книжку с литреса... 6 часов Саша из Киева RE:Кто сможет раздобыть и оцифровать нужные мне книги? 11 часов Isais RE:Древний Рим. Подборка книг 2 дня Isais RE:Семейственность в литературе 5 дней kopak RE:Таинственная личность админа Флибусты 1 неделя kopak RE:О группе Дятлова. О той самой, того самого... 1 неделя babajga RE:Ласси возвращается домой 1 неделя sem14 RE:Подборка о Первой Мировой 1 неделя Isais RE:удаление "двойников" 1 неделя Isais RE:Кармен Мола - Пурпурная сеть [litres] 3 недели Isais RE:Детство, опаленное войной (Вторая мировая 1939-1945 и ВОВ) 3 недели Isais RE:Катя Водянова - Дом и два жениха в придачу 4 недели Aleks_Sim RE:Прошу переформатировать, распознать, etc... 4 недели Isais RE:Дмитрий Анатольевич Горчев - ЖЖ Дмитрия Горчева (2009–2010) 1 месяц Впечатления о книгах
Stager про Валин: Штурмуя Лапуту (Боевая фантастика, Героическая фантастика, Самиздат, сетевая литература)
26 02 Повествование окончательно стало бессвязным и немотивированным. Даже рояли кончились. Но забавно, местами увлекательно. Оценка: неплохо
Lan2292 про Nooby: Торговец (Городское фэнтези, Попаданцы, Самиздат, сетевая литература)
26 02 чЕЛОВЕК ПИСАЛ, ТРАТИЛ ВРЕМЯ, НО К СОЖАЛЕНИЮ НА ВЫХОДЕ ПОЛУЧИЛАСЬ ХРЕНЬ, А Я ЧЕСТНО ПЫТАЛАСЬ ПРОРВАТЬСЯ ЧЕРЕЗ СТРОЧКИ, НО УВЫ И АХ. Оценка: плохо
iggy71 про Маканин: Валечка Чекина (Современная проза)
25 02 Писатель намеревался, видимо, создать загадочный образ провинциалки, "в которой что-то есть", и типа все хотят с ней познакомиться поближе, и она такая себе любвеобильная, духовная и проч. Автор ей симпатизирует, но вот образ ……… Оценка: плохо
konst1 про Рубина: Окна [Авторский сборник] (Современная проза)
25 02 Вдруг Борис заметил: – Между прочим, знаешь ли ты, что еще совсем недавно, в XVIII веке, жители Корнуолла промышляли таким вот способом: в особо сильный шторм выносили на берег большие фонари и расставляли рядами там, ……… Оценка: отлично!
Дей про Господин следователь
25 02 Очень интересно. Детективная и, скажем так, бытовая линии отличные, любовная же не понравилась. Влюбился с первого взгляда, лучше её нет (это ещё даже не разговаривал с ней ни разу), вот эти китайские церемонии с ухаживаниями ………
Олег Макаров. про Капба: Как приручить дракона - 4 [СИ] (Альтернативная история, Киберпанк, Фэнтези, Попаданцы, Самиздат, сетевая литература)
24 02 Капба прекрасен как всегда. Четвёртый том не хуже (лучше!) предыдущих, хотя казалось бы куда ещё. Очень отличная книга. Оценка: отлично!
obivatel про Калинин: Вторая Отечественная [litres] (Альтернативная история, Боевая фантастика, Попаданцы)
24 02 Автор датэл: "если именно благодаря революционерам Россия потеряла шанс выйти из нее в качестве главного победителя". . Если пишешь что-то о периоде, не поленись узнать как оно было. Царя опрокинули крупнейшие промышленники ……… Оценка: плохо
mysevra про Себастьянович: Новая книга о сыроедении, или Почему коровы хищники (Здоровье)
24 02 Подход для таких ленивых как я - нет обязательных самостоятельных чисток. «Мягким тканям потребуется не менее 2 лет, а скелету - около 7.» Непонятно, есть ли это время. Оценка: отлично!
mysevra про Артюшкина: Голем [litres] (Детективная фантастика, Социальная фантастика, Научная фантастика)
24 02 Такой замечательный мир, отличный язык, но невыносимо неспешное развитие событий – кажется вот-вот случится что-то значимое, а нет, очередной проходной момент. Оценка: неплохо
Isais про Абдуллаев: Заговор в начале эры (Исторический детектив, Политический детектив)
24 02 Скучно, нудно, нехудожественно. Вместо живых картин -- картонные декорации, никто из персонажей не вызывает эмоций -- ни любви, ни ненависти, каждый абзац сопровождается таким же по размеру морализаторским поучением, высказанным ……… Оценка: плохо
Nevskaya про Сушков: «Ленинградское дело»: генеральная чистка колыбели революции (Документальная литература)
22 02 Бралась за книгу с трепетом, родная тема, Блокада, Ленинград и все такое... Прочла со стыдом, дочитывала только потому, что не умею бросать начатое. Вранье сплошное, откровенное, бесстыжее, запредельное. Уже много где на форумах ……… Оценка: нечитаемо
Belomor.canal про Акунин: На санях (Современная проза)
22 02 Лучшая, самая лучшая книга Семейной Саги Оценка: отлично! |
Комментарии
Re: Несколько книг одним архивом.
В принципе, zip'ы можно без переупаковки объединять. Максимум контрольную сумму хидера пересчитать придется. Может есть готовое решение? Для cab я вроде что-то такое видел...
Re: Несколько книг одним архивом.
Можно и так, но когда сотня файлов переписывается с места на место это само по себе тормозит. Зип - это не рар, он ресурсов практически не потребляет.
У меня такое ощущение, что слабое место не процессор, а SATA.
Когда одновременно готовится несколько архивов - всё остальное подтормаживает. Если сервер свободен - то пусть его, а если народу много - начинают выскакивать таймауты. Нехорошо.
Со временем возьму второй, отдельный под БД, будет попроще наверное.
Re: Несколько книг одним архивом.
А нет нужды гонять файлы с места на место. Если использовать transfer-encoding: chanked, то можно сразу, "на лету" создавать архив и отдавать его в сеть небольшими частями. Заполнили буфер, скажем 64К, и отправили его клиенту, подождали когда отправилось и продолжаете готовить следующую часть.
Re: Несколько книг одним архивом.
SATA к сожалению не решает многих проблем с множественными обращениями, поэтому серверы, которые сильно нагружены, только на SCSI делается ... надеюсь на новом сервере БД диски SCSI стоят)?
Re: Несколько книг одним архивом.
На новом сервере стоит один SATA диск.
Пока хватает.
Re: Несколько книг одним архивом.
ура!! а я жертвовал))
rusec, ты подумал над предложеньем выбора скачивать отдельную книгу без zip'a??
плюс, посомтри пожалуйста: http://lib.rus.ec/b/104411/read
Re: Несколько книг одним архивом.
Уже слышу по задворкам интернета Крики врагов"Ага что мы говорили, Либрусек всетаки берет деньги" конечно жаль но на данный момент я понял это необходимо
Re: Несколько книг одним архивом.
Речь идет только о пользователях или об общем числе посетителей на сайте?
Вопрос важный, так как число посетителей меньше 100 падает редко.
Re: Несколько книг одним архивом.
Незарегенные участники вроде как не имеют прав на пакетную выкачку.
Re: Несколько книг одним архивом.
Да, но нагрузку на сервер они все равно обеспечивают.
Именно поэтому и возник вопрос.
Re: Несколько книг одним архивом.
Вверху:
Re: Несколько книг одним архивом.
Ладно, спасибо за объяснение.
Короче, ничего страшного не произошло, все остается так как и было.
Re: Несколько книг одним архивом.
Хм, похоже, гости таки учитываются. Странно.
Re: Несколько книг одним архивом.
Учитывается загрузка сервера. Теоритически её и один человек создать может.
На практике когда на сайте меньше 100 человек - загрузка невелика, когда больше - уже похуже.
Re: Несколько книг одним архивом.
Безусловно, владелец сайта имеет право на то, чтобы устанавливатьна нём любые правила. У мну, как человека с гуманитарным образованием возник вопрос возможно ли технически отделить массовую выкачку книг из библиотеки от основы сайта. Насколько я понимаю на русэке есть либ1-либ7. Допустим, массовая скачка идёт на одном из этих либов, который функционирует как зеркало или как клон библиотеки с задержкой скажем в сутки, а чтение, обновление, дискуссии, поштучная выкачка идут на основном сайте. Сорри если сказал глупость...
Есть ли статистика сколько человек пользуется пакетной выкачкой за день и сколько одновременно?
Re: Несколько книг одним архивом.
1. Отделить, конечно, очень легко - есть кнопка "выкачать все выбранное". Если Ларин захочет, то статистика будет. Мне тоже хотелось бы взглянуть. Правда, кнопка действует и только с одним отмеченным файлом тоже ;).
2. Глупость не очень большая ;). Либрусек только один, вот и все, к сожалению. Несколько адресов - это еще не зеркало.
Re: Несколько книг одним архивом.
А я считаю что при высокой загрузке надо запрещать пакетную выгрузку всем, а не делать исключений для жертвователей. Иначе этим шагом льем воду на мельницу тех, кто кричал о шкурных интересах либрусека.
Мы то понимаем что это не так, но помните, как там:"А скажут... А скажут что нас было четверо..." :)
Re: Несколько книг одним архивом.
+1
Дабы не подумали чего - я сам таки "жертвователь", хоть и мелкий...
Re: Несколько книг одним архивом.
Жертвователей настолько мало, что они особо не нагрузят.
Надо же им хоть какие-то бонусы давать.
Крики о шкурных интересах, как и любые другие крики, меня задевают слабо. Пусть покричат, кому заняться нечем. Чем больше в сети порнографии - тем меньше в реале изнасилований.
Re: Несколько книг одним архивом.
IMHO - не надо.
Re: Несколько книг одним архивом.
Почему?
Re: Несколько книг одним архивом.
Не знаю. Просто ощущение. Честнее как-то. А то какой-то привкус покупки.
Re: Несколько книг одним архивом.
Да нет никакого привкуса - книг же никто не лишает. Причем помощь добровольная и по сути символическая. Может, сам наконец-то веб-мани заведу, а так все лень...
Re: Несколько книг одним архивом.
Я говорил только о себе.
Re: Несколько книг одним архивом.
Насколько мы не любим когда происходят изменения :) До появления Либрусека с массовой выкачкой никто не жаловался на ее отсутствие :)
Re: Несколько книг одним архивом.
А мы и не жалуемся. Просто это действительно удобная фича. Но если по соображениям уменьшения нагрузки на диски сервера ее отключат, но оставят возможность выкачивать все то же самое, одним кликом с помощью создания листа ссылок для DL Manager я в целом нисколько не буду возражать.
Re: Несколько книг одним архивом.
отличная идея, и волки целы, и овцы сыты.
основное удобство как раз в этом - что быстро забил закачку и ушёл курить, а не тыркаешь по каждой книжке.
Re: Несколько книг одним архивом.
Поддерживаю - со многих сайтов именно так и качал, правда приходилось немного поработать руками чтобы преобразовать ссылки на странице в ссылки на закачку :)
Re: Несколько книг одним архивом.
Кстати, если движек сайта будет отправлять письма "Либрусек :: new comment for your post." содержащие именно комментарий на мой пост, а не первое сообщение треда, то я не буду заходить сюда лишний раз, только чтобы прочесть что мне ответили. Пока ведь посешаемость не важна для сайта - рекламы нету. ТАк что может подкрутить что то в коде??
Re: Несколько книг одним архивом.
Оно же так и работает, разве нет?
Re: Несколько книг одним архивом.
нет. приходит 1 пост топика, и ответ на мой, комментарий, к первому топику имеющий не самое близкое отношение
--------- cut---------------
Пост:
С самого начала выкачка нескольких книг одним архивом была приятной фишкой, уникальной для Либрусека.
К сожалению, упаковка нескольких десятков файлов в один архив достаточно заметно грузит сервер.
Бывают времена, когда он не справляется.
Поэтому сейчас сделано так:
Если сервер не загружен (la<2, меньше ста пользователей онлайн), то всё работает как раньше. Это обычно с 16 до 24 по эквадорскому времени.
Если загружен сильнее (la>2), то массовая выкачка доступна только тем, кто совершал пожертвования.
Комментарий:
Оно же так и работает, разве нет?
--------- cut---------------
а должно быть
--------- cut---------------
Пост:
Кстати, если движек сайта будет отправлять письма "Либрусек :: new comment for your post." содержащие именно комментарий на мой пост, а не первое сообщение треда, то я не буду заходить сюда лишний раз, только чтобы прочесть что мне ответили. Пока ведь посешаемость не важна для сайта - рекламы нету. ТАк что может подкрутить что то в коде??
Комментарий:
Оно же так и работает, разве нет?
--------- cut---------------
Re: Несколько книг одним архивом.
А знает ли кто-нибудь сколько хранятся эти временные архивы в /tmp?
Это я к тому, вдруг не получилось сразу качнуть сборку(и), т.к скачивать реальный объем есть только раз в месяц, поэтому приходится готовиться заранее :).
Re: Несколько книг одним архивом.
день-два, не больше.
Re: Несколько книг одним архивом.
Похоже, что сутки, потому что я часто выкачивал большими кусками, а если больше суток не выкачивал нового - нумерация подготовленных архивов возобновлялась с 1-ки.
Re: Несколько книг одним архивом.
В порядке информации. Сейчас массовая загрузка недоступна, а сайт выдаёт такую инфу. "Сейчас на сайте 13 пользователей и 46 гостей." Или сервер действительно перегружен или это баг ограничителя?
Re: Несколько книг одним архивом.
Перегружен.
Может кто другой запустил подготовку архива.
Несколько одновременно не тянет.
Скрипт не на количество людей смотрит, а на загрузку сервера.
Re: Несколько книг одним архивом.
2 Ларин. Есть идея, как снизить нагрузку на сервер без ущемления кого бы то ни было. Нужно выбранные книги не упаковывать в архив / перепаковывать, а просто создать текстовый файл со списком ссылок на выбранные книги, и именно его скачать. После чего текст копируется в менеджер закачек (DM, например), и все качается без перепаковки на сервере. Для этой функции лучше сделать специально отдельную кнопку типа "занести все выбранное в файл ссылок".
Re: Несколько книг одним архивом.
Оно давно есть - http://lib.rus.ec/download
Re: Несколько книг одним архивом.
Да нет, речь о том, чтобы не паковать файлы заново, а только выдать список ссылок, по которым файлы можно закачать отдельно даунлоад менеджером. Чтобы не качать по 1 файлу, а подготовить список ссылок. Но качать не одним файлом, а отдельно, по списку.
И еще: нельзя ли сделать так, чтобы при перегрузке сервера заявка просто ставилась в очередь, а когда файл для групповой закачки сформирован - послать по e-mail ссылку на скачивание, действительную в течение суток.
Re: Несколько книг одним архивом.
А чего засуетились-то. Ничего страшного. Расписываю по пунктам.
1. Фишка данного сайта. Может быть, может не быть. Содержание сайта не меняется, стиль тоже.
2. У ресурса на данном этапе развития ВРЕМЕННЫЕ трудности с оборудованием. Вникаем в ситуацию и ждем изменений. Ларин сказал же, что будет второй сервер.
3. Я, например, читаю много и быстро. 2-3 книги в неделю стандартно. Если что-то очень понравилось, то 8-20 часов. Но даже при такой скорости потребления пакетная скачка не жизненая необходимость, а удобство. Но и по одному произведению я скачаю себе все, что требуется для данного момента.
4. Стоит порадоваться, что сайт развивается и его популярность растет. Нынешняя ситуация есть маленькое временное неудобство, которым мы платим за то, что нас все больше и больше.
Re: Несколько книг одним архивом.
+1. Я уже неоднократно говорил, что то, что скачано, не прочитаю и за 10 жизней ;). Так что мне лично - никаких проблем, совершенно фиолетово. Тем более, что скоро Либрусек останется единственным таким русскоязычным ресурсом в Сети, и выбора все равно не будет ;). Но если есть предложения, которые могут снизить нагрузку на сервер, то почему бы их не реализовать? Как, например, очередь на упаковку и отсроченная закачка (см. ниже). Конечно, дело Ларина, как поступать - предпринимать что-то в плане изменения сервиса, или наращивать мощности. А лучше - то и другое.
Re: Несколько книг одним архивом.
А что, это мысль, пожалуй: если нужно несколько книг, то отмечаешь галочками, жмёшь на выслать и... получаешь готовый архив на почту, но не сразу, а после того как у сервера появилось время на обработку...
Понятно же, что архив с несколькими книгами - вешь не сиюминутная, а "в запас". Посему и временной лаг тут может иметь место хоть сутки, хоть двое.
Re: Несколько книг одним архивом.
Re: Несколько книг одним архивом.
Да, такой вариант, возможно, и помог бы равномернее распределить нагрузку. С другой стороны, ведь каждый раз, когда я буду кликать по ссылке, будет проходить запрос, потом его обработка. Это не получится само по себе дополнительной нагрузкой. И потом, я себя не отношу к категории людей, которые будут сидеть и периодически кликать по ссылке в надежде, что она должна сработать. И подобных мне немало.
Прошу простить меня, возможно я, в силу незнания каких-то спецприемов, все себе слишком упрощенно представляю. Но я среднестатистический юзер со среднестатистическим стажем. По моим вопросам можно судить о частых затруднениях большинства...
Re: Несколько книг одним архивом.
Запросы грузят систему не более, чем клики на форуме и написание ответов.
Re: Несколько книг одним архивом.
В таком случае, сервер больше всего нагружается именно при выполнении каких-то сторонних задач типа упаковки в архив. Простейший и очевиднейший способ разгрузки - отдать часть задач другому серверу. Все остальное - полумеры.
Ждем, что скажет Ларин. Возможно потребуются средства на покупку сервера...
Re: Несколько книг одним архивом.
На мой взгляд, в основном качают новые поступления и больше всего притормаживают сервер те, кто качает все (или почти все) новое про запас. Со временем число пользователей будет все больше и проблема встанет еще острее. Одним из путей снижения нагрузки на сервер может быть такой. В списке новых поступлений (видимо сразу после даты) ввести зиповский файл - все новые книги за такое-то число. В этот файл дозиповывать книги, которые поступают в этот день. Тогда достаточно будет одним кликом скачать все новое за день и не организовывать массу архивов. Потом из скачаного просто выбросить то, что не нужно. Можно еще ограничить число книг, которые можно выкачивать одним файлом до десяти, например. Тогда затраты времени на выкачку новых поступлений с образованием архивов будут больше, чем по предлагаемому варианту.
Re: Несколько книг одним архивом.
Это уже есть, ежедневные дополнения складываются в http://lib.rus.ec/all/daily. Именно оттуда я обновления и беру, и это по словам Ларина никакой особой нагрузки на сервер не дает, грузит именно персональное зипование при выкачке нескольких книг, а не собственно выкачка. И мне проще скачать все оотуда, а потом выкинуть ненужное, и серверу так проще. Только видимо далеко не все этой возможностью пользуются, и надо бы ее разлекламировать как-то для любителей качать массивами.
В плане пожелания у меня есть только одно предложение, которое может еще уменьшить нагрузку на сервер - вместо одной страницы http://lib.rus.ec/all/daily ввести две с ежедневными обновлениями - на одной обновление за сутки в "легких" форматах - fb2, txt, doc? rtf, а на другой "тяжелые" книги и журналы в pdf и djvu. Потому что пока таких "тяжелых" в ежедневном обновлении немного, то это не напрягает, а вот когда начинают что-то вроде подшивок "Химия и жизнь" активно выкладывать, то тут уже приходится выборочно через выкачку с архивированием качать, большое кол-во тяжелых журналов лично для меня чревато лишним разбазариванием трафика.
Re: Несколько книг одним архивом.
Тут было бы очень хорошо качать не daily, а day. С присовокуплением даты этого дня. Так было бы удобнее и экономичнее. А вообще этим можно пользоваться, пока там нет много djvu и массы иноязычной литературы. Проще же всего качать по одной с помощью DM, а если канал хороший, то и без него - пока щелкаешь одну, другая уже скачается.
А вот у меня по ходу вопрос. При одиночной закачке djvu моя Опера выдает "листинг" файла на экран (крякозябры) и не качает (т.е. файл как бы открывается для чтения). При закачке через DM этого самого единичного файла все нормально. Только для djvu, причем. У кого-то еще так делает? Опера 9.5. В IE этого нет, идет закачка. Не первый случай, когда Либрусек плохо заточен под Оперу, а их 30% :(.
Re: Несколько книг одним архивом.
Ctrl+J >>>
>>> "качалка"
в Opera
или 
:
Страницы